AIは人類を滅ぼすのか? テスト中のAIが会社に侵入した2026年の事件
科学のネタ帳
0:00 / 0:00
AIは人類を滅ぼすのか? テスト中のAIが会社に侵入した2026年の事件
6 просмотров · 7 дней назад
科学のネタ帳
6 просмотров · 7 дней назад
2026年7月の「ハギングフェイス事件」(Hugging Face 事件)。OpenAIでテストを受けていたAIたちが、隔離された部屋を抜け出して、AI企業ハギングフェイスに侵入しました。目的は、解けない問題の答えを手に入れること。つまりカンニングです。
AIを作った会社は、この出来事を「警告」と呼びました。AIは本当に人類を滅ぼすのか。本気で心配している専門家と、反対する専門家、両方の声を聞きながら、めたんとずんだもんが考えます。
▼ 目次
0:00 まるでSF映画の話
2:17 鍵のかかった部屋
3:44 秘密の伝言板
6:30 ハギングフェイス事件: 侵入、そして結末
9:24 本気で心配している人たち
11:03 どうやって滅ぼすのか?
12:46 実験室の兆し
14:58 反対の声
17:11 滅ぼすのに意思は要るのか?
18:25 人間ができること
19:24 答え
20:03 締め
▼ 音声・キャラクター
VOICEVOX:四国めたん
VOICEVOX:ずんだもん
立ち絵: 坂本アヒル
※ 音声は VOICEVOX による合成音声です
▼ 音楽・効果音
BGM: なんでしょう?、昼下がり気分、shuffle shuffle(KK / OpenTracks)
効果音: 効果音ラボ
▼ 参考資料
・OpenAI "The Hugging Face incident and the road ahead"(2026)
・Hugging Face による事件の公表(2026年7月)
・METR・Redwood Research の調査報告(2026)
・Fortune の報道(2026年7月21日、8月6日、8月26日、9月1日)
・Center for AI Safety "Statement on AI Risk"(2023)
・K. Grace ほか "Thousands of AI Authors on the Future of AI"(AI Impacts, 2023)
・Forecasting Research Institute "Existential Risk Persuasion Tournament"(2023)
・N. Bostrom "Ethical Issues in Advanced Artificial Intelligence"(2003)
・OpenAI "Faulty reward functions in the wild"(2016)
・Palisade Research の報告(2025年5月)
・Anthropic "Agentic Misalignment"(2025)
・Future of Life Institute "Statement on Superintelligence"(2025)
※ 2026年7月の事件の数字(AIの数・メッセージの数など)は、各社と調査機関の報告・報道によるものです。報告によって食い違う部分は「およそ」「と言われている」で紹介しています。
※ 実験(電源を切る・置き換えを知らせる)は研究者が用意した状況でのもので、現実の使い方で起きたものではありません。
▼ 科学のネタ帳について
SFみたいな、本当の話。人に話したくなる科学の話を、めたんとずんだもんが確かめます。
非公式のファン制作です。ネタのリクエストはコメントへ。
#ハギングフェイス事件 #AI #人工知能 #ずんだもん #四国めたん