2.8T MoE 오픈소스 공개, 데이터부터 확인해야

Kimi K3 같은 2.8T 모델이 풀웨이트로 풀려도 파이프라인에 들어가는 데이터 스키마와 정합성이 그대로면 프로덕션에서 지연시간이 급증할 가능성이 크다. AI 칩 공급망 병목으로 데이터센터 건설이 지연되는 상황에서 1M 토큰 컨텍스트를 실제 트래픽에 올리면 비용과 온콜 부담이 벤치마크 수치와 크게 벌어진다. EU AI Act 투명성 의무도 8월부터 적용되는데, 모델 크기보다 레거시 데이터 처리 비용이 먼저 현실로 다가올 거다.