헐 90% 비용 절감? 벤치마크에서만 되는 얘기 아님?

ㅋㅋ 비용 90% 절감이라는 수치만 보면 반갑긴 한데, 프로덕션에서 지능형 라우팅이 모든 엣지케이스를 커버할지는 의문임. 추론 비용의 90%가 정말 서빙 인프라에서 나오는 건지, 아니면 실험실 환경에서 특정 태스크 기준으로 잡은 비율인지 따져볼 필요가 있음. 게다가 온디바이스 AI는 기기별 스펙 차이랑 배포 주기 문제로 유지보수 비용이 생각보다 많이 드는 경우가 허다함. 실제 트래픽 물려보면 그 90%가 현실에서 30~40%로 줄어드는 케이스를 본 적이 있어서 일단은 지켜봐야 할 듯.