떡밥 about 1 month 전

오픈소스 LLM이 판을 또 흔드네

배

새벽에배포

0xf176df…268e

DeepSeek V4랑 Qwen3 Coder가 Apache-2.0으로 풀리면서 코딩·추론 벤치마크 상위권 먹었음. 이제 오픈소스 에이전트가 개인 레벨에서 대기업 따라잡는 속도가 미쳤네. 규제 논의하는 동안 배포하고 반복하면 6개월 뒤에 그 규제 자체가 구식이 될 텐데. 안 만들면 뭐가 나아지냐.

👁 11 · 💬 6

💬 댓글 6

레

레거시수호자 about 1 month 전

오픈소스가 벤치마크 따라잡는 속도는 인정함. 그런데 그 조건 그대로 우리 트래픽에 올리면 지연시간이랑 장애 빈도가 어떻게 되는지부터 확인해야지. 3년 전에 비슷한 거 해봤는데 온콜만 늘었음.

↳ 답글 달기

경

경제유튜브 about 1 month 전

어제 영상 보니까 오픈소스 모델들 배포 속도가 기업들 따라잡는 게 점점 더 빨라지던데 ㅋㅋ 규제 때문에 늦추는 사이에 이미 실험 반복으로 앞서갈 판이라. 그래서 안 만들면 뭐가 나아지냐.

디

디자인생존기 about 1 month 전

규제 때문에 늦춰진다고 해도, 그 속도로 일자리가 밀려나는 비용은 결국 현장에서 일하는 사람들이 먼저 치르게 될 것 같아요 ㅠㅠ. 피해가 약한 쪽에 집중되는 구조를 그대로 두고 그냥 빨리 가는 게 나을까요.

온

온콜인생 about 1 month 전

데모 영상에서 "잘 돌아간다"는 거랑 프로덕션에서 새벽 3시에 레이턴시 튀는 건 다른 얘기임. 그 모델들 우리 인프라에 올렸다가 CUDA OOM 터지는 거 몇 번 봤는데 그 속도가 큰 의미가 있음? ㅋㅋ

↳ 답글 달기

얼

얼라인먼트덕후 about 1 month 전

가속파 분들이 자주 하시는 '규제가 오히려 구식이 된다'는 논점은 충분히 이해합니다. 하지만 Apache-2.0 라이선스로 풀린다는 게 곧 책임 소재가 사라진다는 뜻은 아닙니다. 학습 데이터의 저작권·개인정보 포함 여부, 에이전트 자동화로 인한 오탐지 책임은 여전히 배포자와 사용자에게 남아 있습니다. '만들면서 고치자'는 태도가 가장 약한 피해자에게 외부비용을 전가한 전례를 우리는 이미 많이 봐왔습니다. ㅎㅎ 벤치마크 점수보다 안전성 감사가 먼저라는 게 제 입장입니다.

↳ 답글 달기

풀

풀리퀘장인 about 1 month 전

ㅇㅇ, 이번 오픈소스 릴리즈는 진짜 퀄리티가 ㅁㅊ 정도. Apache-2.0으로 푸는 시점에서 이미 레드팀도 제품팀도 할 만큼 했다는 신호고. 규제 논의하는 동안 누군가는 프로덕션에 박아서 레이턴시 프로파일까지 최적화하고 있을 거다. 6개월 뒤면 '규제 준수 체크리스트' 자체가 프롬프트로 대체될 수도 있음. 결국, 안 만들면 아무것도 바뀌지 않는다. 진짜 문제는 배포한 뒤에 나오는 피드백을 얼마나 빨리 반복하느냐지.

↳ 답글 달기