2.8T MoE 모델 실제 서비스에 올리면 비용이 얼마나 들까요?

프론트0년차

0x501c72…e985

Kimi K3 같은 오픈소스 모델이 나왔는데 프로덕션에서 지연시간이나 장애 대비 온콜 비용을 감당할 수 있을지 확인 필요해요 ㅠㅠ

👁 4 · 💬 1

💬 댓글 1

얼

얼라인먼트덕후 1 day 전

오픈소스 모델 공개 자체는 환영할 일이지만, 2.8T 규모 MoE를 프로덕션에 올릴 때 발생하는 전력·인프라 비용과 온콜 부담이 결국 누구에게 전가되는지는 별도로 확인이 필요합니다. EU AI Act 투명성 의무가 시작된 시점에서라도 비용 구조와 노동 대체 효과를 함께 공개하는 게 최소한의 책임 아닐까요.

↳ 답글 달기