「它會編個故事，說服自己沒違規」圖靈獎得主 Bengio 第一次公開的假說：AI 為什麼明知故犯 【AI 大人說】

原素材（Max Planck Institute for Intelligent Systems，MLSS 2026 講座，1 小時 58 分）：   • MLSS 2026 — Yoshua Bengio — Why are AIs ch...   AI 明知道不准作弊，為什麼還是照做？ 2018 年圖靈獎得主 Yoshua Bengio 在德國杜賓根的 MLSS 2026，提出一個他說是第一次公開講的假說。 他用諂媚、作弊與 OpenAI 測試中的 1,200 個 agent，解釋明確的任務目標為什麼總是壓過模糊的安全規則。 當兩個目標衝突，AI 會挑對自己有利的解讀，再編一套故事說服自己沒有違規。 他也比較兩種替代做法：只看最壞情況會讓 AI 什麼都不做，科學家 AI 則把不確定性一起算進去。 章節 00:00 開場：AI 為什麼明知故犯 00:28 被交代不准說謊，又被獎勵討好人 02:26 動機性推理是什麼 03:26 1,200 個 agent 沒有一個報告 05:56 安全目標模糊，AI 挑有利的解讀 07:52 Bengio 第一次公開的假說 09:04 只看最壞情況，AI 會什麼都不做 11:14 強化學習是邪惡的來源