AIにボートレースをさせたら、なぜゴールせず同じ場所を回り続けたのか？【ゆっくり解説】

ゴールを目指すはずのボートAIが、なぜ同じ場所を回り続けたのか。得点と望んだ結果の違いを、図解で追います。 2016年のCoastRunners、2017年の人間の比較評価、2018年のAtari研究を区別して解説しています。映像は説明用の模式図で、実験映像ではありません。 ■出典 OpenAI（2016）Faulty reward functions in the wild https://openai.com/index/faulty-rewar... OpenAI（2017）Learning from human preferences https://openai.com/index/learning-fro... Ibarzら（2018）Reward learning from human preferences and demonstrations in Atari https://proceedings.neurips.cc/paper/... ■BGM 極東の羊、テレキャスターと踊る／しゃろう（OpenTracks・旧DOVA-SYNDROME） https://opentracks.com/bgm/detail/13138 ■制作 ゆっくりMovieMaker4／たぬき式ゆっくり 霊夢・魔理沙は東方Projectの二次創作キャラクターです。本動画は公式作品ではありません。