Перейти к содержимому

Выход за пределы RAG: реляционный контекстный движок для сокращения расхода токенов — Unblocked

AI Engineer

0:00 / 0:00

Выход за пределы RAG: реляционный контекстный движок для сокращения расхода токенов — Unblocked

5 680 просмотров · 9 часов назад
AI Engineer
659 тыс. подписчиков
5 680 просмотров · 9 часов назад
Векторный поиск не может ответить на вопрос «какие запросы на слияние я объединил на прошлой неделе?». Реляционный контекстный движок может, и при этом сокращает расход токенов. Питер Верри, инженер-основатель Unblocked, объясняет, что такое контекстный движок и почему агентам по программированию нужно больше, чем просто поиск по коду: запросы на слияние, ветки Slack и история инцидентов, которые объясняют, почему код именно такой, какой он есть. Он демонстрирует сессии Claude с контекстом и без него, включая одну с примерно 50% снижением затрат и одну, в которой регрессия была связана с переключением модели. Затем он шаг за шагом создает открытый исходный код механизма запросов к документам Unblocked: автоматическое обнаружение схемы, разрешение идентификаторов между системами, проверка запросов, блокирующая опасные операторы, повторные попытки, передающие ошибки обратно в модель, и полнотекстовый поиск. В заключение он показывает симулятор открытого контекстного движка для проверки того, помогает ли предварительно собранный контекст вашим агентам. В этом докладе: • Что такое контекстный движок и как он снижает затраты на реальных сессиях агентов • Почему векторные хранилища не могут отвечать на структурные вопросы о вашей работе • Преобразование вопросов на простом английском языке в безопасные, проверенные запросы к базе данных • Обнаружение схемы, разрешение идентификаторов, повторные попытки и полнотекстовый поиск ДОКЛАДЧИК Питер Верри, инженер-основатель Unblocked ССЫЛКИ Unblocked: https://getunblocked.com Движок запросов к документам (GitHub): https://github.com/unblocked/document... Unblocked на X: https://x.com/get_unblocked РАЗДЕЛЫ 0:00 Введение 0:52 Повестка дня 2:22 Демонстрация: агенты с контекстом и без него 4:17 Половина стоимости 4:57 Трассировка регрессии модели 6:17 Давайте строить 7:11 Вопросы, на которые векторный поиск не может ответить 8:21 Самая сложная часть: Создание каркаса 9:46 Механизм запросов к документам 10:31 Автоматическое обнаружение схемы 12:26 Разрешение идентификаторов 13:45 Проверка запросов 15:50 Повторные попытки 16:35 Полнотекстовый поиск 18:30 Симулятор контекстного механизма Запись сделана на Всемирной выставке инженеров-ИИ 2026 в Сан-Франциско. Подпишитесь, чтобы получать больше докладов от инженеров, создающих приложения с использованием ИИ. AI Engineer: https://ai.engineer YouTube:    / @aidotengineer   X: https://x.com/aiDotEngineer LinkedIn:   / aidotengineer   #ContextEngineering #RAG #AIEngineer