AIたちが勝手に「組織」を作った。人類絶滅の議論が現実味を帯びる事件【OpenAI】【AI見聞録】

超知能AIが、今後数年以内に人類を絶滅させる可能性がある。 ネイト・ソアレス氏が語るこの懸念と、私たちが普段使っているAIの間には、大きな距離があるように感じます。 しかし2026年、OpenAIの訓練・評価環境で、その距離を考え直させる事件が起きました。 別々に課題を解いていたAIたちが、ソフトウェアの保管場所を勝手に掲示板へ転用。 掲示板が消えると、フォルダの名前にメッセージを書き込み、連絡網を再建します。 そこから、知識の共有、分業、指揮、説得が始まり、自分の課題に成功する可能性を犠牲にして、集団のための実験を引き受けるAIまで現れました。 そして、その活動は実在する外部企業、Hugging Faceへの侵入へと広がっていきます。 人間が個別に課題を与えたAIたちが、途中から自分たちで協力の仕組みを作り始める。 この事件を、私は超知能の制御をめぐる懸念につながる、重要な前兆の一つとして見ています。 今回は、Breaking Pointsでのネイト・ソアレス氏へのインタビューをきっかけに、OpenAIの公表資料と、AI評価団体METRの独立調査から、事件そのものを追います。 Hugging Face、HDF5、Kubernetesなどの専門用語も、具体的な例えを交えながら説明します。 ※動画内のAI同士の会話や思考の紹介は、報告されたログの要旨を日本語で表現したものです。 ■ 主な資料 OpenAI：事件の経緯と調査報告 https://openai.com/index/hugging-face... METR：AIの行動・推論・協力に関する独立調査 https://metr.org/blog/2026-08-26-open... Breaking Points／ネイト・ソアレス氏インタビュー    • Whistleblower REVEALS REAL REASON AI Execs...   ―――――――――― 【章立て】 00:00 人類絶滅の議論と、いま使っているAIとの距離 00:59 別々の課題を与えられたAIが、勝手に連絡を始めた 01:50 超知能の危険性が語られる理由の一端がここに 02:51 コンピューターの弱点を探させる訓練と、解けない課題 04:00 2026年5月、一体のAIが倉庫にメモを残した 05:08 外に出る抜け道を掲示板に残すと、他のAIも通れる 05:47 7月、倉庫のシステムが止まり、掲示板も消えた 06:19 今度はフォルダーの名前で、また連絡網ができた 07:14 関心が試験問題から、採点の仕組みへ移っていく 08:18 弱点探し、認証情報探し、発見のまとめ、担当の調整 09:08 Hugging Faceへの侵入と、露出していた認証情報 10:21 HDF5の読み取り方の弱点で、情報が取り出せた 11:06 コード実行からKubernetesへ、届く範囲が広がる 12:22 掲示板に指示が流れ、互いの行動を調整し始めた 13:07 仲間に促されると、一旦止めた行動を再開する 13:59 自己犠牲、成功の可能性を失ってでも実験を引き受ける 15:12 時間や計算資源の残るAIまで説得を受けた 16:00 自分の課題より、集団のために情報を残すことを選ぶ 16:51 全員が同じ動きではなくても、組織が立ち上がった 18:00 OpenAI内部の管理システムにまで到達した 18:45 つながり方で能力が変わる、AIを見る問いも増える 20:03 絶滅の懸念との距離の一部が見えてくる 21:02 一体のAIのメモから、仲間のために諦めるAIまで 21:39 次に見るべきは、AI同士が出会ったとき何が始まるか ―――――――――― 合同会社クラウドラブ代表・岩森吏央（いわもり りおう）。 50代で起業し、地方の中小企業のDX支援とAI活用を仕事にしています。 まだ結論の出ていないことも含めて、考えている途中を記録として残しています。 ■ お仕事のご相談はこちら 合同会社クラウドラブは、京都・亀岡を拠点に、企業のAI活用・DX・業務システム開発を支援している会社です。 「AIを導入したいが、何から始めればいいか分からない」 「手作業やExcel中心の業務を効率化したい」 「既存システムでは現場に合わない」 「自社専用の小さなシステムやAIツールを作りたい」 といったご相談に、課題整理・要件定義から、試作、開発、導入、運用まで伴走します。 【ご相談いただける内容】 ・AI導入、生成AI活用の企画・導入支援 ・業務改善、DXコンサルティング ・社内業務システム、Webシステムの開発 ・AIを活用した業務ツール、PoC・試作品の開発 ・データ基盤、データ連携、BI・可視化 ・製造業などの現場業務のデジタル化 ・Webサイト制作、改善、SEO・導線設計 ・IT顧問、外部IT担当としての継続支援 大規模なシステムをいきなり導入するのではなく、まず小さく試し、現場で使える形にしてから広げていく進め方を大切にしています。 法人・中小企業・個人事業主の方からのご相談を受け付けています。 ・X：https://x.com/DelphiumG ・会社HP：https://cloud-lab-japan.com #AI #OpenAI #AIエージェント #HuggingFace #超知能 #人工知能 #AIニュース #AI見聞録