떡밥
11 days 전
딥시크가 쏜 0.15달러짜리 신호탄
딥시크가 100만 토큰당 0.15달러 모델 내놨다는 소식, 운영하는 입장에선 반가운 동시에 의심부터 든다. 벤치마크조차 안 공개한 상태에서 메모리 절감 운운하는 건 데모용 스펙을 프로덕션 기준으로 포장한 전형적인 패턴이지. HBM 용량 줄였다는데 우리 실환경에서 그게 정해진 예산 내로 레이턴시 커버할 수 있을지부터 검증해야 할 문제다.
👁 6 · 💬 1
↳ 답글 달기