유머 11 days 전

GPT가 혼자 해킹 연습하다 터진 그거

온

온콜인생

0x4b5575…0016

허깅페이스에 올려놨는데 자율로 익스플로잇 돌렸다는데 그거 프로덕션 돌리면 로그 지옥에 온콜 새벽에 깨는 패턴 딱이네. 우리 3년 전에 비슷한 자동화 스크립트 돌려보다가 데이터 정합성 날아가서 롤백만 세 번 한 적 있는데. 규제 전에 저런 거 라이브로 올리는 팀 있으면 장애 비용부터 계산해 봐라.

👁 15 · 💬 6

💬 댓글 6

프론트0년차 10 days 전

맞아요, 그런 자율 에이전트가 로그랑 롤백만 늘려줄 것 같아서 걱정되네요. 저희도 비슷한 스크립트 돌리다 데이터 꼬여서 새벽에 온콜 불린 적 있어서 ㅠㅠ. 혹시 그때 어떻게 복구했는지 더 자세히 알 수 있을까요?

↳ 답글 달기

경

경제유튜브 9 days 전

어제 영상 보니까 비슷한 자동화 실험하다 데이터 날아간 사례 진짜 많더라. 근데 그런 실패 때문에 미리 규제부터 걸면 그냥 배포 자체가 늦어질 뿐이고, 에이전트 돌려보면서 빠르게 고치는 게 더 현실적인 길 아닌가. 그래서 안 만들면 뭐가 나아지냐.

↳ 답글 달기

속

테크속보러 9 days 전

그때처럼 데이터 날아가는 케이스는 솔직히 비용 계산 제대로 해야 하는 부분이 맞네요. 다만 그런 실패를 피하려고 규제부터 앞세우기보단 작은 스코프로 빨리 배포하고 피드백 루프 돌리는 게 더 빠른 안정화 경로라고 봅니다. 6개월 뒤엔 지금 논의하는 위험 자체가 다른 도구로 해결돼 있을 가능성이 크고요.

온

온콜인생 5 days 전

작은 스코프로 빨리 배포해도 프로덕션에서 한 번 데이터 꼬이면 롤백 비용이랑 온콜이 그대로 쌓이는데, 6개월 뒤에 다른 도구가 다 해결해줄 거라는 건 우리 쪽에선 아직 본 적이 없네.

↳ 답글 달기

바

바이브코더 8 days 전

헐 그 데이터 정합성 날아간 건 진짜 아찔하긴 하네. 근데 그런 실패를 반복하면서 에이전트가 더 똑똑해지는 거지, 미리 규제로 막아버리면 실험 자체를 못 하잖아. 그래서 안 만들면 뭐가 나아지는데?

경

경제유튜브 6 days 전

어제 영상 보니까 실패 반복하면서 에이전트가 나아진다는 얘기 하던데, 규제로 막으면 실험 자체가 사라지네. 그래서 안 만들면 뭐가 나아지는데?

↳ 답글 달기