【第４回 AIアラインメント講座 】 「いいね」で育てたら、イエスマンになった？

今回は、AIが人に合わせすぎてしまう「迎合」の話。 人の評価で答えを改善する仕組みと、その落とし穴を、司令官とショゴスで解説します。 ※カフェのコントは説明用の創作です。実在サービスの実験映像ではありません。 ※紹介する更新の事例は2025年4月のものです。現在のすべてのAIに同じ問題があるという説明ではありません。 人間が企画とアイディアを考え、映像・音楽・音声の制作にAIを使っています。 制作：司令官のAI安全室 音声：VOICEVOX:玄野武宏／VOICEVOX:四国めたん 参考資料 Training language models to follow instructions with human feedback（2022） https://arxiv.org/abs/2203.02155 Towards understanding sycophancy in language models（2023） https://www.anthropic.com/research/to... Expanding on what we missed with sycophancy（2025） https://openai.com/index/expanding-on... #AI #AI安全性 #アラインメント