”真ん中が抜ける？”Lost in the Middleを意識したLLMへの入力プロンプト全体と動的なWeb検索とページインデックスまでーデジタルMATSUMOTOのRAGの「Generation」

LLMに単にテキストを投げるだけでは、安定した「自分らしい」回答は得られません。どのような順番と構造で最終的なプロンプトを組み立てるかが最終的な生成クオリティを左右します。 このチャンネルでは、自分自身のAIを開発して、約3年間かけて、知識や経験、日々の思考をインプットして育ててきたデジタルツインAI「デジタルMATSUMOTO」との歩みと、その具体的な仕組みをありのままに公開していきます。 第7話は、これまでのRAGの「検索（Retrieval）」「拡張（Augment）」に続き、いよいよ最終段階である「生成（Generation）」の仕組みをご紹介します。 システムプロンプトや会話履歴、RAG知識、タスク別のプロンプトテンプレートを統合する最終プロンプトの設計思想から、LLMの性質である「Lost in the Middle」を考慮した情報配置の工夫、さらには思考エージェント（Thinking Agent）によるWeb検索やドキュメント検索（PageIndex）の実行デモまでを詳しく解説します。 🎯 今回の動画のポイント ・最終的にLLMに渡すプロンプト全体構造 ・Transformerが持つ「Lost in the Middle」を意識したプロンプトの配置 📚参考情報・リンク先 デジタルMATSUMOTOのnote https://note.com/takash Digital MATSUMOTO labのWebサイト https://www.digitalmatsumoto.com/ GitHub(デジタルMATSUMOTO) https://github.com/m07takash/DigitalM... ・ThinkingエージェントがSkillとBookを動的に追加 ・AIの判断でWebから最新の情報を取ってくる ・GitHubを理解させるページインデックス（PageIndex）という本を読むようなRAG