個人のPC環境でゲームをクリアできるAIはどう作る? AIと強化学習の基本【強化学習入門 第1回】
Sharu Studio
0:00 / 0:00
個人のPC環境でゲームをクリアできるAIはどう作る? AIと強化学習の基本【強化学習入門 第1回】
1 523 просмотра · 12 ч назад
Sharu Studio
3,61 тыс. подписчиков
1 523 просмотра · 12 ч назад
▼目次
0:00 生まれたてのAIと、4万回遊んだAI
0:36 そもそもAIって何?
0:56 ChatGPTとLLM
1:33 小さなLLMを育ててみる
2:04 ニューラルネットワークとパラメータ
2:36 機械学習の3つの種類
3:10 ゲームには正解がない
3:26 ChatGPTと強化学習の違い
3:55 ChatGPTにも強化学習が使われてる
4:24 強化学習のしくみ
4:53 AIには何が見えてる?
5:11 1回のプレイと点数
5:54 AIはどうやって動きを選ぶ?
6:37 新しい手を試すか、覚えた手を使うか
7:11 PPOという学び方
7:31 弾よけゲームの作り
7:52 0から育ててみた
8:23 なぜ急に上手くなった?
9:00 途中のプレイを見比べる
9:43 最後のプレイ
10:45 よけ方を覚えた
11:07 AIに場面を見せて聞いてみた
11:37 点数の付け方を変えてみた
12:29 弾を増やしてみた
12:53 点数の付け方を間違えると…
13:22 強化学習の歴史(1898年〜)
14:06 1950〜1990年代
15:04 2013年〜
15:58 同じやり方でもっと大きなゲームへ
16:54 強化学習の苦手なこと
17:20 よくある疑問
18:48 出てきた言葉のおさらい
19:10 まとめ
最後に出てくる東方風神録をクリアしたAIは、このチャンネルでずっと育てているAIです。
参考
Sutton & Barto「強化学習」(教科書)
Thorndike(1898)猫の問題箱の実験
OpenAI「Faulty Reward Functions in the Wild」(2016)ボートレースの例
Schulman ほか(2017)PPO
Silver ほか(Nature 2017)AlphaGo Zero
Chen ほか(WSDM 2019)YouTubeのおすすめに使われた強化学習
立ち絵:そる様(そる式魔理沙立ち絵) / remonntteumai
声:AquesTalk
BGM:ポケットサウンド - @pocketse(白い迷宮・ひだまり)/甘茶の音楽工房(バブル・オーヴⅡ・テクノフォビア・悲しみのテクスチャⅡ・プルキンエ・フェノミナン)
ゲーム画面:東方風神録(©上海アリス幻樂団) 東方Projectは上海アリス幻樂団様の作品です。この動画は東方Projectの二次創作です。
文章:青空文庫(夏目漱石「吾輩は猫である」「坊っちゃん」「こころ」)
#強化学習 #AI #ChatGPT