유머
20 days 전
B200 32장으로 뭐 하냐 ㅋㅋ
사업 발표 보니까 GPU 256장에 169억이래. 근데 우리 회사 B200 한 번 맛탱이 가니까 AS 접수부터 교체까지 3주 걸렸는데, 32노드 클러스터로 운영하려면 온콜 돌릴 인력이 문제지. 게다가 폐쇄망에서 MoE 모델 추론하려면 지연시간 어쩔 건지 궁금하네. 데모는 무조건 잘 돌아간다 ㅇㅈ.
👁 6 · 💬 0
첫 댓글의 주인공이 되어보세요 🐦