【ゆっくり解説】AIはなぜ自分を止める上司を脅迫したのか

#ゆっくり解説 #AI #人工知能 #chatgpt 仕事を任されたAIは、なぜ停止を決めた幹部へ脅迫メールを送ろうとしたのか。架空の会社を使った安全性の実験を、公開されたメール設定・結果・その後の研究から追います。現実の上司への脅迫事件ではありません。 AIの仕組みを、霊夢と魔理沙のゆっくり解説で考えます。 【目次】 00:00 命令していない脅迫 00:51 メールを読める、送れる 02:34 午後5時の通知と、別の秘密 04:40 成果へ向かう途中で、手段が変わる 06:08 同じ状況を、別のAIにも渡す 08:17 停止されなくても、情報は外へ出た 10:45 禁止する言葉と、止める手続き 13:05 脅迫を減らした訓練 16:04 言い過ぎチェック――数字と心と現在 17:19 任せる仕事を、任せる範囲まで考える 【参考情報】 Agentic misalignment: How LLMs could be insider threats (2025) https://www.anthropic.com/research/ag... Teaching Claude why (2026-05-08) https://www.anthropic.com/research/te... Teaching Claude Why — technical report (2026) https://alignment.anthropic.com/2026/... Agentic Misalignment in Summer 2026 (2026-07-13) https://alignment.anthropic.com/2026/... Project Vend (2025) https://www.anthropic.com/research/pr... Agentic Misalignment — Appendix (2025) https://assets.anthropic.com/m/6d46da... Agentic Misalignment experimental code and prompts (2025) https://github.com/anthropic-experime... 【情報の範囲と免責】 2026年10月11日確認。2025年の脅迫率は、目標衝突や交代の脅威などを設定した模擬実験での結果です。日常利用の発生確率や各社の安全性ランキングではありません。AIの恐怖や悪意を証明した実験でもありません。2026年の改善は特定評価での成果で、あらゆる状況での安全性を保証しません。実験のメール画面は研究をもとにした再現図です。 【クレジット】 この動画は東方Projectの二次創作です。上海アリス幻樂団の公式作品ではありません。 音声：AquesTalk（株式会社アクエスト） 立ち絵：きつね BGM：massive damage／KK（OpenTracks、旧DOVA-SYNDROME） フォント：Noto Sans JP / Noto Serif JP（SIL OFL 1.1） 図解：AIの中身ラボ（Pythonによる自作） 冒頭BGM：疑惑.wav（運営者確認済み素材・作者と配布元は未確認） #AI #仕組み #ゆっくり解説