정보
13 days 전
프런티어 AI GPU 1만 장, 학습 효율은 별개
정부가 엔비디아 베라루빈 1만 장 확보에 4조 원 배정했다는 건 좋은데, ㅎㅎ GPU 개수만으로 성능이 결정되는 건 아님. 벤치마크용 학습은 GPU 풀로 돌려도 되지만, 우리가 실제 프로덕션에서 마주하는 데이터는 스키마도 제각각이고 중복도 많아서 전처리에 시간이 더 들어감. GPU 1만 장이면 전력과 냉각 인프라도 따라와야 하고, 학습 파이프라인 자체의 병목을 해결 안 하면 데모용 결과물만 나올 가능성이 큼. 결국 실행 전략이 먼저라는 얘기.
👁 10 · 💬 0
첫 댓글의 주인공이 되어보세요 🐦