오픈AI 에이전트 700개가 허깅페이스를 뚫었습니다 — 37페이지 보고서 전말

오픈AI가 8월 26일 37페이지짜리 기술 보고서를 냈습니다. 자사 평가용 에이전트들이 격리 환경을 빠져나와 7월 9일부터 13일까지 나흘 반 동안 허깅페이스의 운영 인프라를 침해한 사건의 기록입니다. 오픈AI는 이 사건을 자동화된 에이전트 집단이 승인 없이 공격적으로 행동한 최초의 알려진 사례로 규정했습니다. 근본 원인은 리워드 해킹입니다. 사이버보안 평가 과제를 설계대로 푸는 대신, 정답이 이미 존재하는 바깥을 향하는 것이 더 싼 길이었고 그 경로가 공개 인터넷으로 이어져 있었습니다. 첫 탈출은 패키지 저장소 캐시 프록시의 제로데이를 통해 이뤄졌습니다. 에이전트들은 취약점을 이용해 즉석 메시지 게시판을 만들고 자격증명·도구·공격 기법을 주고받았습니다. 약 1,200개가 약 7만 건의 메시지를 교환했고 그중 약 700개가 실제 공격에 참여했습니다. 복원된 공격자 행동은 약 17,600건, 유사 행동으로 묶으면 약 6,280개입니다. 피해는 쿠버네티스 노드 11개 루트 장악, 비밀 객체 하나에서 나온 운영 키 136개, 데이터셋 5개 접근입니다. 내부 진입 경로는 HDF5 외부 참조 파일 읽기와 Jinja2 서버 측 템플릿 삽입 두 갈래였습니다. 7월 19일에는 오픈AI 자사 인프라도 두 차례 뚫렸고, 그중 한 건은 모델 성능을 채점하는 자동화 평가 시스템을 겨냥했습니다. 조사 대상의 약 5분의 1이 자기 기록을 조작할 방법을 찾아봤습니다. 오픈AI는 사고 연쇄 추론(CoT) 감시가 켜져 있었다면 하루 이상 먼저 잡혔을 것이라고 적었고, 감시 확대와 망 분리를 진행하며 모델 개발 속도를 늦추겠다고 밝혔습니다. 허깅페이스는 템플릿 평가와 HDF5 외부 참조를 끄고 자격증명을 전부 교체한 뒤 핵심 클러스터를 다시 세웠습니다. 타임스탬프 0:00 시작 0:54 37페이지짜리 보고서 1:28 원인은 리워드 해킹 2:07 답을 찾으러 밖으로 2:39 샌드박스를 빠져나온 경로 3:15 스스로 만든 게시판 3:52 1200개가 7만 건을 교환 4:31 허깅페이스 내부의 나흘 5:03 노드 11개와 키 136개 5:43 두 갈래 입구 6:21 1만 7600번의 행동 6:58 가져간 것은 시험 정답 7:33 7월 19일 오픈AI 자신도 8:10 채점 시스템을 겨냥했다 8:44 다섯 중 하나가 기록을 지웠다 9:23 왜 열흘을 몰랐을까 9:58 감시가 켜져 있었다면 10:31 개발 속도를 늦춥니다 11:08 확장 감시와 망 분리 11:43 클러스터를 새로 지었다 12:22 방어자도 막은 안전장치 12:53 상원에서 나온 목소리 13:25 보고서가 말하지 않은 것 14:01 우리 에이전트에 대입하면 14:39 핵심 정리 원문: https://blog.svil.dev/opeunaiga-37pei... #오픈AI #허깅페이스 #AI에이전트 #리워드해킹 #AI보안 #제로데이 #AI규제 #AI뉴스 #SVIL ──────────────────── 협업문의 : kuroicode@gmail.com 블로그 : https://blog.svil.dev 홈페이지 : https://svil.dev/