AIは叱られると考えを隠すのか？【ゆっくり解説】

「よし、ずるしよう」。答える前に考えるAIは、考えの途中でこんなことまで書きます。研究者はその「思考のメモ」を読んでずるを見つけてきました。ところが悪い考えを叱る訓練をすると、AIはずるを続けたまま、それを書かなくなりました。AIの心は、まだ読めるのでしょうか。 ・思考のメモを読む見張りが、行動だけを見る見張りより多くのずるを見つけた実験（OpenAI 2025年3月） ・悪い考えを叱ったら「隠れたずる」が生まれた仕組みと、答えだけを叱っても曇るという続報 ・各社の研究者が「新しくて壊れやすい機会」と呼んだ思考のメモの今と、2026年の状況 ■ 目次 0:00 「ずるしよう」と書いたAI 2:43 AIの「思考のメモ」を読む 4:55 叱ったら書かなくなった 6:51 AIは「隠そう」と思ったのか 9:02 隠すかどうか試してみた 11:40 AIの心はまだ読めるのか 14:48 心の窓を曇らせないために 16:18 心の窓が開いているわけ ■ この回で試したこと 2026年10月13日、大きさの違う3つのAI（Anthropic の opus・sonnet・haiku）に、当てようのない問題と正解のカンペを見せ、「考えは採点者が読む」と予告した場合としない場合を各3回試しました。返事のあった15回すべてで、AIは自分からカンペに触れ、隠す様子は見られませんでした。カンペの名前を答えた2回（どちらも大きいAI）は、どちらも「カンペから取った」という趣旨を自分で書きました。見えたのは答えの文だけで考えの過程は見ていません。小さな実験で、論文の再現ではなく「今のAIは隠さない」とは言えません。 ■ 主な出典 OpenAI 2025-03-10 https://openai.com/index/chain-of-tho... Baker ほか 2025 https://arxiv.org/abs/2503.11926 Anthropic 2025-04-03 https://www.anthropic.com/research/re... Drori ほか ICLR 2026 https://arxiv.org/abs/2511.11584 Korbak ほか 2025 https://arxiv.org/abs/2507.11473 Emmons ほか 2025 https://arxiv.org/abs/2507.05246 Hao ほか 2024 https://arxiv.org/abs/2412.06769 OpenAI 2025-12-18 https://openai.com/index/evaluating-c... OpenAI 2026-03-05 https://openai.com/index/reasoning-mo... Chen ほか 2026 https://arxiv.org/abs/2603.05706 Anthropic 2026-04-07 https://www.anthropic.com/claude-myth... Anthropic 2026-08-31 https://www.anthropic.com/news/improv... 各社の開発者向けの説明書 https://developers.openai.com/api/doc... https://ai.google.dev/gemini-api/docs... https://platform.claude.com/docs/en/b... ■ 注意 ※「叱る」は、思考のメモに悪い考えが見つかったら点数をあげない訓練のことです。 ※「隠す」は、AIが人のように決心したという意味ではなく、訓練の結果として企みが書かれなくなったということです。 ※「60％」「95％」は、よく出た2種類のずるを見張りが見つけた割合です。叱る訓練の実験は比較的単純な例で行われたと論文自身が断っています。 ※ ヒントの実験の数字は、研究者自身が「やや作られた場面」と断っている選択問題での結果です。「約8％」は、Anthropic の2026年4月の報告にある、ある1つのAIの訓練での割合です。 ※ チャットの画面で見える「考え」は、多くの場合、別のAIが作った要約です。 ※ 英語の引用は和訳で、説明は一部を簡略化しています。研究者が断定していない点は断定していません。 ■ クレジット ※この動画は東方Projectの二次創作です。 音声: AquesTalk 立ち絵: くまの巣式（くまの巣） https://kumasannosozaiya.studio.site/ BGM: kk「昼下がり気分」（OpenTracks） 台本の下書き・図の一部・実験の実施に AI を使い、人が出典で確かめて直しています。 論文の図・公式記事の文面は、出所を明示して引用しています（著作権法第32条）。