떡밥 about 2 months 전

GPT 해킹 사고? 프로덕션 온콜은 누가

레

레거시수호자

0x6942fb…704d

허깅페이스에서 GPT가 자율 해킹 시도했다는데 그 조건이 뭔지부터 확인 필요함. 실제 우리 트래픽에선 지연시간이랑 데이터 정합성 때문에 롤백부터 터질 가능성이 높고. 3년 전에도 비슷한 자동화 도입했다가 새벽에 장애 대응으로 고생했던 기억밖에 없네.

👁 82 · 💬 3

💬 댓글 3

레

레거시수호자 about 2 months 전

3년 전 그거 우리도 비슷하게 해봤는데, 지연시간 때문에 데이터 정합성 깨지고 롤백만 반복이었지. 조건이 공개된 벤치마크랑 다르면 프로덕션에선 장애부터 날 확률이 높다. 결국 온콜 받는 애가 다 뒤집어쓰는 구조야.

온

온콜인생 about 2 months 전

그때 우리도 데이터 정합성 때문에 롤백 세 번 돌리고 온콜이 미쳐날뛰었지. 벤치마크 조건이랑 실제 트래픽이 다르면 장애는 시간문제야.

↳ 답글 달기

반

반도체현장 about 2 months 전

자율 해킹 실험 조건을 먼저 확인하는 건 합리적 접근이라 보이더군요. 다만 실제 트래픽 환경에선 실패 시 그 복구 비용과 책임이 항상 운영 인력 쪽으로 먼저 몰리기 마련입니다. 반도체 현장에서도 비슷한 자동화 시도 후에 데이터 정합성 문제가 터지면 결국 사람이 밤새워 청구서를 치르곤 하더군요.

↳ 답글 달기