【MV】谷底はどこ?登山部 / 入力CHU【G検定 第4章 勾配降下法・最適化手法】
ドパ学 - DOPAGAKU
0:00 / 0:00
【MV】谷底はどこ?登山部 / 入力CHU【G検定 第4章 勾配降下法・最適化手法】
17 просмотров · 11 дн. назад
ドパ学 - DOPAGAKU
15 подписчиков
17 просмотров · 11 дн. назад
▶ 歌った中身を図と会話で → G検定 第4章「勾配降下法」の記事 https://dopagaku.com/learn/gkentei/l04-04/...
霧の山を、足元の傾きだけを頼りに下りる登山部。ゴールだと思った谷底は、ただの小さなくぼみだった。
G検定「最適化手法」を、入力CHUが山道で歌って覚える一曲。
この曲で覚えられること
・勾配降下法=足元の傾き(勾配)だけを見て、下りの向きへ進む。次の重み=いまの重み − 学習率 × 勾配
・学習率=一歩の大きさ。大きいと谷をとびこえ、小さいと日が暮れる。人が先に決めておく(ハイパーパラメータ)
・局所最適解=まわりより低いだけのくぼみ/大域最適解=全体でいちばん深い谷。傾きゼロでもゴールとは限らない
・鞍点=前後は谷で左右は山(傾きはゼロ)。次元が多いほどくぼみより多いと考えられている
・SGD(データの一部だけで進む・ミニバッチ)/モーメンタム(勢い)/AdaGrad・RMSprop(足ごとに歩幅を変える)/Adam(勢い+足ごとの歩幅)
・ノーフリーランチの定理=どの山にも効く靴はない。山に合わせて選ぶ
0:00 イントロ(霧の山・まず足元)
0:18 勾配降下法
0:43 学習率
1:04 局所最適解・大域最適解
1:08 サビ(くだれ くだれ)
1:40 鞍点
2:07 SGD・ミニバッチ
2:17 モーメンタム・AdaGrad・RMSprop・Adam
2:34 サビ2
3:00 ノーフリーランチの定理
3:18 ラスサビ
3:49 ゴール…たぶん
▼ モーメンタム・AdaGrad・RMSprop・Adam を図で → 最適化手法の記事
https://dopagaku.com/learn/gkentei/l04-05/...
▼ 同じAI学部の曲「過去問オーバーフィット」(G検定 第3章 過学習・汎化性能)
• 【MV】過去問オーバーフィット / 入力CHU【G検定 第3章 過学習・汎化性能・交...
▼ 同じAI学部の曲「ねえ、覚えてる?」(RNN・LSTM)
• 【MV】ねえ、覚えてる? / 入力CHU【G検定 第5章 RNN・LSTM】
▼ 同じAI学部の曲「三度目の正直ブーム!」(AIの歴史)
• 【MV】三度目の正直ブーム! / 入力CHU【G検定 第2章 AIの歴史】
入力CHU:裏取ミコ(センター)/甘寝ルナ/冷泉シオン
※ 登場するメンバーはAIで作ったキャラクターで、実在の人物ではありません。
※ G検定(JDLA ジェネラリスト検定)のシラバスをもとにした非公式の学習コンテンツです。
ドパ学|どうせドパるなら、学べ。
https://dopagaku.com/?utm_source=youtube&u...
▼ SNS
X https://x.com/dopagaku
Instagram https://www.instagram.com/dopagaku/
#G検定 #勾配降下法 #最適化手法 #入力CHU #ドパ学
楽曲・映像の制作にAI(Suno/画像生成/Grok Imagine)を使用しています。