Чат с вашим PDF — приложение генеративного ИИ — на базе Amazon Bedrock, RAG, S3, LangChain и Stre...

В этом видео мы создадим приложение, похожее на чат-бота, с использованием AWS Amazon Bedrock, Docker, Python, Langchain и Streamlit. Мы будем использовать концепцию генерации с расширением извлечения (Retrieval-Augmented generation) для предоставления контекста большой языковой модели (LGML) вместе с запросом пользователя для генерации ответа из нашей базы знаний. Временные метки: 0:00 - Введение 0:35 - Краткая демонстрация 3:44 - Архитектура приложения и детали 8:40 - Создание веб-приложения администратора 42:40 - Создание клиентского веб-приложения и обертка Это практическое руководство, в котором я продемонстрирую следующее: Архитектура приложений Создание 2 приложений (ADMIN и USER) и создание образов DOCKER Приложение ADMIN: Создание веб-приложения администратора, где администратор/пользователь может загружать PDF-файлы. Текст PDF-файла разбивается на фрагменты. Используя модель встраивания Amazon Titan, создайте векторное представление фрагментов. Используя FAISS, сохраните векторный индекс локально. Загрузите индекс в хранилище Amazon S3 (можно использовать и другие хранилища векторной графики, такие как OpenSearch, Pinecone, PgVector и т. д., но для этой демонстрации я выбрал более экономичный S3). ПОЛЬЗОВАТЕЛЬСКОЕ ПРИЛОЖЕНИЕ: Создайте веб-приложение для пользователей, где они смогут задавать вопросы и общаться в чате с PDF-файлом. - При запуске приложения загрузите индексные файлы из S3 для создания локального индекса FAISS (хранилище векторов). Функция RetrievalQA из Langchain выполняет следующие действия: Преобразует запрос пользователя в векторное представление с помощью модели встраивания Amazon Titan (убедитесь, что используется та же модель, что и для создания представления фрагмента на стороне администратора). Выполняет поиск сходства по индексу FAISS и извлекает 5 релевантных документов, относящихся к запросу пользователя, для построения контекста. Используя шаблон Prompt, предоставляет вопрос и контекст модели Large Language Model. Мы используем модель Claude от Anthropic. Отображает ответ LLM пользователю. Исходный код доступен на Github: https://github.com/mycloudtutorials/g... #llm #generativeai #aws #amazoncloud #bedrock #artificialintelligence