【AIマイクラ実験】なぜAIは「夢の中の練習」だけでダイヤを掘れたのか?【ゆっくり解説】
ゆっくり電脳研究所
0:00 / 0:00
【AIマイクラ実験】なぜAIは「夢の中の練習」だけでダイヤを掘れたのか?【ゆっくり解説】
7 просмотров · 1 день назад
ゆっくり電脳研究所
38 подписчиков
7 просмотров · 1 день назад
手本もなく、64×64の小さな画面だけを見て、マイクラでダイヤにたどり着いたAI「DreamerV3(ドリーマーV3)」。2025年に科学雑誌 Nature に載ったこのAIは、練習のほとんどを、自分の頭の中に作った「夢の世界」で行っていました。
夢の正体である「世界モデル」とは何か、夢の中でどうやって練習するのか、夢がまちがっていたら何が起きるのか(2018年の研究で見つかった「夢のバグを突くAI」)、そしてロボットやゲームへの広がりまで、論文の図や実際の映像も交えてゆっくり解説します。
【目次】
0:00 導入
0:32 第1章 AIに見えている世界
1:32 第2章 夢の正体は世界モデル
3:43 第3章 夢の中で練習する
5:00 第4章 夢がウソをつくとき
6:41 第5章 そしてダイヤへ
8:04 第6章 夢から現実へ
9:19 締め
【主な参考情報】
・Hafner ほか「Mastering diverse control tasks through world models」(Nature、2025年/arXiv:2301.04104)
https://arxiv.org/abs/2301.04104
・Danijar Hafner「DreamerV3」プロジェクトページ
https://danijar.com/project/dreamerv3/
・danijar/dreamerv3(GitHub)
https://github.com/danijar/dreamerv3
・Ha & Schmidhuber「World Models」(arXiv:1803.10122、2018年)
https://worldmodels.github.io/
・Hafner ほか「Dream to Control: Learning Behaviors by Latent Imagination」(2019年)
https://arxiv.org/abs/1912.01603
・Wu ほか「DayDreamer: World Models for Physical Robot Learning」(2022年)
https://arxiv.org/abs/2206.14176
・Valevski ほか「Diffusion Models Are Real-Time Game Engines」(GameNGen、Google、2024年)
https://arxiv.org/abs/2408.14837
・Baker ほか「Video PreTraining (VPT)」(OpenAI、2022年)
https://arxiv.org/abs/2206.11795
・Kenney「Voxel Pack」(CC0・パブリックドメイン)
https://kenney.nl/assets/voxel-pack
※ブロックの世界のアニメーションは、論文の内容をもとにした再現イメージです。実際のゲーム画面ではありません。とくに「夢の中」の場面や「AIの目(64×64)」の小窓は、仕組みを説明するための表現で、AIが実際に思い浮かべている画面そのものではありません。
※「選手」「コーチ」は、論文の actor(行動を決めるネットワーク)と critic(行動の良し悪しを見積もるネットワーク)を言い換えたものです。夢の中で先を読む長さは、論文の設定では16ステップです。
※迷路と4本足ロボットの予想の図は、DreamerV3 論文の図4(最初の5コマと操作から、45コマ先まで予想したもの)です。
※「1点と1万点 → 0.7と9.2」は、大きな数を縮めて扱う考え方(symlog)を説明するための例です。
※DreamerV3 は、以前の研究にならってブロックを素早く壊せる設定を使っています。比べたほかの方法(IMPALA・Rainbow・PPO)は鉄のツルハシまでで、ダイヤには届いていません(論文の図5)。
※火の玉のゲーム(VizDoom)の映像と説明は、Ha & Schmidhuber「World Models」(CC BY 4.0)によります。論文の図・プロジェクトページの映像は、著作権法第32条に基づき引用しています。
ゆっくり電脳研究所は、身近なデジタルやAIの「なぜ」を仕組みと経緯で解くチャンネルです。チャンネル登録していただけると励みになります。
図解・作図:本チャンネルのオリジナル制作
BGM・効果音:本チャンネルのオリジナル(プログラムで作成)
立ち絵:たぬき式ゆっくり
引用:Hafner ほか(arXiv:2301.04104)DreamerV3 図4(https://arxiv.org/abs/2301.04104)※著作権...
引用:Hafner ほか(arXiv:2301.04104)DreamerV3 図4(https://arxiv.org/abs/2301.04104)※著作権...
引用:Hafner ほか(arXiv:2301.04104)DreamerV3 図5(https://arxiv.org/abs/2301.04104)※著作権...
引用:DreamerV3 プロジェクトページ(Hafner) (https://danijar.com/project/dreamerv3...
引用:Ha & Schmidhuber「World Models」(2018年、CC BY 4.0) (https://worldmodels.github.io/)※著作権法第...
引用:Ha & Schmidhuber「World Models」(2018年、CC BY 4.0) (https://worldmodels.github.io/)※著作権法第...
Minecraft(マインクラフト)は Mojang Synergies AB の商標です。DOOM は id Software LLC の商標です。本動画は各社・各研究機関と関係ありません。ブロックの世界の絵は Kenney の CC0 素材を使った再現イメージで、ゲームの画面ではありません。
※この動画は東方Projectの二次創作です。
※音声にはAquesTalkライセンスに基づく合成音声を使用しています。