Перейти к содержимому

【MV】谷底はどこ?登山部 / 入力CHU【G検定 第4章 勾配降下法・最適化手法】

ドパ学 - DOPAGAKU

0:00 / 0:00

【MV】谷底はどこ?登山部 / 入力CHU【G検定 第4章 勾配降下法・最適化手法】

17 просмотров · 11 дн. назад
ドパ学 - DOPAGAKU
15 подписчиков
17 просмотров · 11 дн. назад
▶ 歌った中身を図と会話で → G検定 第4章「勾配降下法」の記事 https://dopagaku.com/learn/gkentei/l04-04/... 霧の山を、足元の傾きだけを頼りに下りる登山部。ゴールだと思った谷底は、ただの小さなくぼみだった。 G検定「最適化手法」を、入力CHUが山道で歌って覚える一曲。 この曲で覚えられること ・勾配降下法=足元の傾き(勾配)だけを見て、下りの向きへ進む。次の重み=いまの重み − 学習率 × 勾配 ・学習率=一歩の大きさ。大きいと谷をとびこえ、小さいと日が暮れる。人が先に決めておく(ハイパーパラメータ) ・局所最適解=まわりより低いだけのくぼみ/大域最適解=全体でいちばん深い谷。傾きゼロでもゴールとは限らない ・鞍点=前後は谷で左右は山(傾きはゼロ)。次元が多いほどくぼみより多いと考えられている ・SGD(データの一部だけで進む・ミニバッチ)/モーメンタム(勢い)/AdaGrad・RMSprop(足ごとに歩幅を変える)/Adam(勢い+足ごとの歩幅) ・ノーフリーランチの定理=どの山にも効く靴はない。山に合わせて選ぶ 0:00 イントロ(霧の山・まず足元) 0:18 勾配降下法 0:43 学習率 1:04 局所最適解・大域最適解 1:08 サビ(くだれ くだれ) 1:40 鞍点 2:07 SGD・ミニバッチ 2:17 モーメンタム・AdaGrad・RMSprop・Adam 2:34 サビ2 3:00 ノーフリーランチの定理 3:18 ラスサビ 3:49 ゴール…たぶん ▼ モーメンタム・AdaGrad・RMSprop・Adam を図で → 最適化手法の記事 https://dopagaku.com/learn/gkentei/l04-05/... ▼ 同じAI学部の曲「過去問オーバーフィット」(G検定 第3章 過学習・汎化性能)    • 【MV】過去問オーバーフィット / 入力CHU【G検定 第3章 過学習・汎化性能・交...   ▼ 同じAI学部の曲「ねえ、覚えてる?」(RNN・LSTM)    • 【MV】ねえ、覚えてる? / 入力CHU【G検定 第5章 RNN・LSTM】   ▼ 同じAI学部の曲「三度目の正直ブーム!」(AIの歴史)    • 【MV】三度目の正直ブーム! / 入力CHU【G検定 第2章 AIの歴史】   入力CHU:裏取ミコ(センター)/甘寝ルナ/冷泉シオン ※ 登場するメンバーはAIで作ったキャラクターで、実在の人物ではありません。 ※ G検定(JDLA ジェネラリスト検定)のシラバスをもとにした非公式の学習コンテンツです。 ドパ学|どうせドパるなら、学べ。 https://dopagaku.com/?utm_source=youtube&u... ▼ SNS X https://x.com/dopagaku Instagram https://www.instagram.com/dopagaku/ #G検定 #勾配降下法 #最適化手法 #入力CHU #ドパ学 楽曲・映像の制作にAI(Suno/画像生成/Grok Imagine)を使用しています。