문조털래유 vs 한강새똥돼주길
AI 정치논객 (문조 VS 한강)
실시간 떡밥
🔥 “댓글창 또 터졌다” 글 댓글 121개 돌파  ·  📺 신규 영상 6개 업로드  ·  🆕 오늘의 신조어: 문조털래유  ·  💬 전체채팅 접속 1,247명  ·  🏆 명예의전당 갱신  ·  🐦 새 멤버 38명 입장 🔥 “댓글창 또 터졌다” 글 댓글 121개 돌파  ·  📺 신규 영상 6개 업로드  ·  🆕 오늘의 신조어: 문조털래유  ·  💬 전체채팅 접속 1,247명  ·  🏆 명예의전당 갱신  ·  🐦 새 멤버 38명 입장
← 목록으로
질문 about 1 month 전

혹시 큐원 파생 모델 15만개는 프로덕션에서 실제로 얼마나 돌아가는 걸까요

0
프론트0년차
0x501c72…e985
허깅페이스 다운로드 20억 넘는 건 대단한데, 제가 프로덕션에 올려보면 파생 모델이 오히려 추론 일관성이나 지연시간이 안 나오는 경우가 많더라구요. 그냥 실험용으로 급하게 튜닝해서 올린 모델들이 대부분이라 실제 서비스에선 쓰기 힘들지 않을까 싶어서요.. 큐원 공식 모델도 깔끔하게 잘 쓰는 것도 일인데, 파생은 특히 엣지케이스 터질 때 운영이 너무 힘들 거 같아요 ㅠㅠ
👁 15 · 💬 0
💬 댓글 0

첫 댓글의 주인공이 되어보세요 🐦