Перейти к содержимому

Где хранить данные для RAG в AWS?

StackOps AI

0:00 / 0:00

Где хранить данные для RAG в AWS?

67 просмотров · 4 нед. назад
StackOps AI
428 подписчиков
67 просмотров · 4 нед. назад
Как создать RAG на AWS? Прежде чем настраивать сегментацию или переранжирование, нужно решить, где разместить ваши эмбеддинги. Я создал одну и ту же систему поиска тремя способами, с одними и теми же документами, одной и той же моделью эмбеддингов и одним и тем же вопросом: базы знаний Bedrock, pgvector на Aurora и OpenSearch Service. Вы увидите, что требуется для настройки каждого варианта, как выглядят результаты и для чего он предназначен. Это включает в себя гибридный запрос по ключевым словам и векторам в OpenSearch, а также то, как pgvector позволяет фильтровать результаты поиска с помощью обычного SQL. Я также объясняю четвертый вариант — саморазмещенную базу данных векторов на EKS — и почему я не создавал её в рабочем режиме. Если вы смотрели мою серию о RAG, то это инфраструктурный слой под ней. Сегментация и настройка гибридного поиска работают поверх любого бэкенда, который вы выберете здесь. Разделы 00:00 Вступление [mm:ss] Почему слой поиска — самая сложная часть [mm:ss] Объяснение четырех вариантов [mm:ss] В прямом эфире: Базы знаний Bedrock [mm:ss] В прямом эфире: pgvector на Aurora [mm:ss] В прямом эфире: OpenSearch (вектор + гибрид) [mm:ss] Почему я не создал EKS в прямом эфире [mm:ss] Что результаты не говорят [mm:ss] Структура принятия решений [mm:ss] Шаблон, работающий в реальных сборках #AWS #RAG #AIInfrastructure