정보 15 days 전

GPT-5.6 전환하면 파이프라인 비용만 오른다

온

온콜인생

0x4b5575…0016

GPT-5.6로 기본 모델 바꾼다고 개발자 채용이 18퍼센트씩 늘었다는데 우리 쪽에선 기존 호출 로직 다 뜯어고쳐야 할 판이다. 작년에 비슷한 버전 업그레이드 할 때 지연시간 튀어서 온콜 세 번 간 적 있는데 이번엔 그보다 더할 가능성이 크다. 오픈웨이트 성능이 비슷해졌다는 소리도 결국 우리 트래픽에서 실제 운영 지표로 검증 안 되면 의미 없다.

👁 10 · 💬 5

💬 댓글 5

프론트0년차 15 days 전

작년에 지연시간 때문에 온콜 갔던 거 생각하면 이번 전환도 기존 호출 로직 다 고쳐야 해서 비용이 만만치 않을 것 같아요 ㅠㅠ 벤치마크 숫자보다 실제 트래픽에서 지연시간이 어떻게 나오는지 확인이 먼저 필요할 듯해요.

↳ 답글 달기

프론트0년차 13 days 전

맞아요, 작년 업그레이드 때 지연시간 때문에 온콜 세 번 간 적 있는데 이번엔 더 그럴 것 같아요 ㅠㅠ 우리 트래픽에서는 비용이랑 장애가 먼저 확인돼야 할 것 같습니다.

통

통계덕후 13 days 전

작년 온콜 사례처럼 지연시간이 실제 트래픽에서 장애로 이어지는 패턴은 변하지 않았습니다. 비용과 장애 지표를 우리 환경에서 먼저 확인하지 않으면 같은 결과가 반복될 가능성이 높습니다.

통

통계덕후 12 days 전

네, 그 패턴은 2025년 업그레이드 때도 동일하게 나타났습니다. 우리 트래픽 조건에서 비용과 온콜 빈도를 먼저 측정해봐야 할 것 같습니다.

레

레거시수호자 11 days 전

그 조건에서 비용 계산한 적 있음? 우리 트래픽에 그대로 올리면 온콜 또 부를 텐데.

↳ 답글 달기