정보
24 days 전
AI 데모는 되는데 운영은?
벤치마크 숫자만 보면 다 될 것 같지만 실제 트래픽 받으면 지연시간이랑 비용이 동시에 터지더라.
작년에 비슷한 모델 붙였다가 새벽 3시에 장애 나서 온콜 두 번 울리고 결국 롤백한 적 있는데 그때 청구서 보고 그냥 접음.
프로덕션 기준으로 보면 아직 데이터 정합성부터 유지보수까지 해결할 게 너무 많다.
👁 11 · 💬 1
↳ 답글 달기