【ずんだもん解説】LLMとトランスフォーマーの仕組み｜ChatGPTは「次の言葉」を当てているだけ？【ゆっくり解説風】

ChatGPTやClaudeのようなAIは、どうやって文章を書いているのか？ その中身である「LLM（大規模言語モデル）」と「トランスフォーマー」の仕組みを、ずんだもんと四国めたんが約4分でざっくり解説します。 実はLLMがやっていることは、とてもシンプル。「次に来る言葉を予測する」を何百回も繰り返して、文章を一語ずつ書き進めています。 では、なぜそれだけであんなに自然な文章が書けるのか？　その鍵が、2017年に登場したトランスフォーマーと「アテンション」という仕組みです。 ▼この動画でわかること ・LLMが「次の言葉の予測」で文章を作る仕組み ・AIが言葉を「トークン」と「ベクトル（数字の並び）」で扱う理由 ・昔の言語AI（RNN）の弱点 ・アテンションが「どの言葉に注目すべきか」を計算するしくみ ・GPTの「T」の意味と、AIが大きくなるほど賢くなった話 ▼目次 0:00 オープニング 0:13 LLMってなに？（大規模言語モデル） 0:36 次の言葉の予測 1:08 トークンとベクトル 1:23 昔の言語AIの弱点 1:44 2017年 トランスフォーマー登場 2:04 アテンション 2:36 アテンションの強み 2:50 トランスフォーマーの構造 3:08 大きくするほど賢くなった 3:27 まとめ ※ 仕組みをわかりやすくするため、細かい部分は簡略化して説明しています。 ──────────────── 音声：VOICEVOX:ずんだもん / VOICEVOX:四国めたん 立ち絵：坂本アヒル 様 BGM：Reflect / まんぼう二等兵（OpenTracks） ──────────────── #ずんだもん解説 #AI解説 #LLM #トランスフォーマー #ChatGPT