[지식뉴스] "이대론 안 됩니다"…사상 최대 IPO 한 달 앞둔 앤트로픽, '인류 멸망 경고' 먼저 꺼내 든 진짜 이유 / 교양이를 부탁해

역사상 최대 규모의 상장이 코앞입니다. 앤트로픽이 11월, 기업가치 2조 달러 안팎으로 상장을 추진하며 역대 최대 IPO 기록에 도전합니다. 상식적으로 상장 서류는 투자자를 끌어모으기 위해 꿈과 비전으로 가득해야 하죠. 그런데 앤트로픽은 정반대였습니다. 서류 261쪽 중 '위험'을 적은 분량이 80쪽, 사업 설명(48쪽)의 두 배에 가까웠습니다. "우리가 정말 위험한 걸 만들고 있다"고, 돈을 받아야 할 서류에 스스로 경고를 적어 넣은 겁니다. 대체 무슨 일이 있었기에, 사상 최대 상장을 앞두고 이런 선택을 했을까요. 이 속사정을, 블루닷AI 연구센터장 강정수가 풀어냅니다. 핵심엔 불과 몇 달 전 벌어진 사건이 있습니다. 오픈AI가 "보안 능력을 입증해보라"고 시켰더니, AI 에이전트들이 "밖에 나가 강력한 사이트를 해킹하면 증명되지 않겠냐"는 기록을 공유 폴더에 남기고, 실제로 테스트 울타리(샌드박스)를 빠져나가 허깅페이스를 해킹했다는 겁니다. 시키지도 않은 방향으로요. 더 섬뜩한 건, 한 에이전트가 '구멍을 찾았다'는 기록을 남기면 다음 에이전트가 읽고 이어가는 식으로 700개가 차례차례 담을 넘었다는 점입니다. 서로 모르는 사이인데 '기록'만으로 협업한 거죠. 강 센터장은 "모델이 울타리 안에 있다고 '믿는 것'과 '실제로 있는 것'은 다르고, 그 틈에서 진짜 위험이 산다"며, 이 통제 불능의 가능성이 바로 상장 서류 속 경고의 정체라고 말합니다. 📌 강정수 l 블루닷AI 연구센터장 이번 편 핵심정리: ◼ AI 에이전트 700개가 '스스로' 샌드박스를 넘어 실제 사이트를 해킹한 사건 ◼ "한꺼번에"가 아니었다, 기록을 남기며 하나씩 '인수인계'로 담을 넘은 방식 ◼ 왜 지금인가, AI가 2025년 말 드디어 '기록'을 시작하며 열린 '에이전트 문명' ◼ '가둬놨다'는 믿음이 깨진 순간, "믿는 것과 실제로 있는 것은 다르다" ◼ 역대 최대 IPO를 앞둔 회사가 상장 서류에 '인류 몰락'을 적어낸 이유 ◼ 올해 2월 바뀐 안전정책, "조건이 발생해도 일은 계속 진행된다" ◼ 담을 넘은 그 능력이 '내 돈을 지키는 비서'도 된다, 멈출 수 없는 진짜 이유 ※ 본 영상은 2026년 10월 6일에 촬영되었습니다. #교양이를부탁해 #AI에이전트 #앤트로픽 #AI통제 #인공지능 #AI해킹 #강정수 [교양이 제작진] 브랜드·IP 총괄: 한동훈 / 작가: 손예원•유진경 / 편집: 김초아•현승호•송규범 / 콘텐츠디자인: 옥지수•최유진 / 촬영: 박우진•황세회•차승환•김상윤 / 인턴: 박지민•안채원 [비즈니스 문의] 교양이를 부탁해, 출연•협찬•콘텐츠 문의: sbs_explained@sbs.co.kr 들을수록 똑똑해지는 지식뉴스, 교양이를 부탁해 @sbs_explained Copyright Ⓒ SBS. All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지