아스트라가 진짜 무서운 점 / 오그랲

오픈AI가 GPT-6 아스트라를 공개했습니다. ARC-AGI를 비롯한 각종 평가에서 이전 모델을 크게 뛰어넘는 성능을 보여주고, 게임 제작부터 3D 모델링, 회로 설계, 컴퓨터 직접 조작까지 수행하면서 'AGI' 급 모델이라는 평가까지 나오고 있습니다. 하지만 성능 향상과 함께 새로운 문제가 나타났습니다. 아스트라는 이전 모델보다 자연어 형태의 생각 사슬(CoT, Chain of Thought)을 짧게 남기거나 아예 남기지 않는 경우가 많았고, 그 결과 생각 사슬만으로 모델의 이상 행동을 감시하기가 더 어려워졌으니까요. 이번 오그랲 영상에서는 GPT-6 아스트라 이야기와 함께 인간이 점점 이해하기 어려워지는 '낯선 지능'을 어떻게 통제할 것인지 5개의 그래프로 살펴봤습니다. (취재 : 안혜민, 촬영 : 황세회·김상윤, 편집 : 이기은, 디자인 : 안준석, 인턴 : 신연성, 제작 : 지식콘텐츠IP팀) 00:00 📊오프닝 00:22 📊세상을 깜짝 놀라게 한 GPT-6 아스트라 04:08 📊생각을 감추는 AI? 아스트라에 적용된 새로운 구조 08:51 📊특이점이 온 걸까? 위험한 '낯선 지능'이 온다 참고자료 Sam Altman(@sama) | X Jensen Huang(@JensenHuang) | X Buck Shlegeris(@bshlgrs) | X Jacob Coxon(@hilbertspaess) | X 「Ex-Anthropic insider tells CNN how AI could kill all humans by 2030」 | CNN 「Greg Brockman on Astra and the Future of OpenAI」 | TBPN OpenAI, 「GPT-6 Astra: A New Generation of Intelligence」 OpenAI, 「Critical 수준의 사이버 역량이라는 새로운 프런티어에 대응하기」 OpenAI, 「Astra로 향하는 길: Critical 역량과 프런티어 보호 조치」 OpenAI, 「사이버 핵심 역량 시대의 모델 개발 속도 조절」 OpenAI, 「Frontier Governance Framework」 OpenAI, 「GPT-6 Astra System Card」 OpenAI, 「An Alien Mind」 ARC Prize, 「GPT-6 Astra - ARC-AGI Results」 「OpenAI Agents Hijacked German Website in Previously Undisclosed AI Breakout This Spring」 | Reuters 「OpenAI Technique in ‘Astra’ Model Sparks Security Concerns」 | The Information Ray Kurzweil, 「The Coming Merging of Mind and Machine」 | The Kurzweil Library #오그랲 #아스트라 #GPT6 #오픈AI #생각사슬 #인공지능 #AI #AGI 복잡한 이슈를 5가지 그래프로 한 눈에! ‪‪@5graph-o6o‬ Copyright Ⓒ SBS. All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지