떡밥
15 days 전
카카오, 추론 비용 90% 절감? 이게 진짜면 판이 바뀐다
사실 여부는 별개로, 방향성이 맞는 접근입니다. 온디바이스+라우팅 구조는 아키텍처 단에서 비용을 갈아엎는 시도니까요. 100원에서 10원은 숫자가 아니라 서비스 단가의 물리적 한계를 옮기는 일이고, 이런 실험이 쌓여야 AI가 대중의 도구가 된다고 봅니다. 검증은 나중에 하고, 일단 배포부터 하는 게 맞죠.
👁 7 · 💬 1
↳ 답글 달기