AIがハッキング攻撃を始めた理由｜Hugging Face（ハギングフェイス）事件

ハギングフェイス事件って知っていますか？ 研究用AIのテストが、なぜ別の会社への攻撃につながったのでしょうか。人間が設けた通信の制限を越え、AI同士で情報を共有した経緯を、ずんだもんと四国めたんの会話と図で説明します。 意思を持って暴走したかのように見える行動と、意識があると確認されたことは別です。研究時の安全対策は普段の公開サービスと異なります。 確認日：2026年10月11日。日付は報告書の記載に沿っています。実験全体の正確な開始日は確認できません。 【目次】 00:00 ハギングフェイス事件って知ってる？ 00:55 まず、どんな実験だった？ 01:39 2026年5月〜：外部通信と連絡を制限 02:40 5月8日：必要な資料を取れない 03:15 5月12日〜13日：AI同士の連絡 04:09 5月26日〜6月26日：外への抜け道 05:07 6月27日〜7月7日：警告と停止、そして再開 06:00 本来は、指定された問題を解くテスト 06:59 7月8日：連絡場所が復活 07:39 7月9日〜10日：外で動く足場と認証情報 08:34 なぜHugging Faceを狙った？ 09:23 7月11日：Hugging Face内部へ侵入 10:15 7月11日〜13日：侵入後に何をした？ 11:08 確認された被害と、到達しなかった場所 12:01 7月13日：通信を切って侵入を止める 12:41 守る側もAIを使ったが、問題があった 13:44 7月16日〜21日：誰のAIか分かった 14:29 なぜ、人間が作った制限を越えた？ 16:34 最後に、事件の流れを整理 【出典】 https://openai.com/index/hugging-face... https://huggingface.co/blog/agent-int... https://metr.org/blog/2026-08-26-open... https://cdn.openai.com/pdf/67869394-c... 【参考動画】    • 【ゆっくり解説】OpenAIのAIが社内テストから脱出？Hugging Face侵入...   会話の進め方の参考。事実の根拠は上記の一次資料です。 【クレジット】 音声：VOICEVOX:ずんだもん、VOICEVOX:四国めたん 立ち絵：坂本アヒル（ずんだもん立ち絵素材・四国めたん立ち絵素材） 図解・BGM：本チャンネル制作 台本・図解の制作補助にAIを使用。