Выход за пределы RAG: реляционный контекстный движок для сокращения расхода токенов — Unblocked
AI Engineer
0:00 / 0:00
Выход за пределы RAG: реляционный контекстный движок для сокращения расхода токенов — Unblocked
5 680 просмотров · 9 часов назад
AI Engineer
659 тыс. подписчиков
5 680 просмотров · 9 часов назад
Векторный поиск не может ответить на вопрос «какие запросы на слияние я объединил на прошлой неделе?». Реляционный контекстный движок может, и при этом сокращает расход токенов.
Питер Верри, инженер-основатель Unblocked, объясняет, что такое контекстный движок и почему агентам по программированию нужно больше, чем просто поиск по коду: запросы на слияние, ветки Slack и история инцидентов, которые объясняют, почему код именно такой, какой он есть. Он демонстрирует сессии Claude с контекстом и без него, включая одну с примерно 50% снижением затрат и одну, в которой регрессия была связана с переключением модели. Затем он шаг за шагом создает открытый исходный код механизма запросов к документам Unblocked: автоматическое обнаружение схемы, разрешение идентификаторов между системами, проверка запросов, блокирующая опасные операторы, повторные попытки, передающие ошибки обратно в модель, и полнотекстовый поиск. В заключение он показывает симулятор открытого контекстного движка для проверки того, помогает ли предварительно собранный контекст вашим агентам.
В этом докладе:
• Что такое контекстный движок и как он снижает затраты на реальных сессиях агентов
• Почему векторные хранилища не могут отвечать на структурные вопросы о вашей работе
• Преобразование вопросов на простом английском языке в безопасные, проверенные запросы к базе данных
• Обнаружение схемы, разрешение идентификаторов, повторные попытки и полнотекстовый поиск
ДОКЛАДЧИК
Питер Верри, инженер-основатель Unblocked
ССЫЛКИ
Unblocked: https://getunblocked.com
Движок запросов к документам (GitHub): https://github.com/unblocked/document...
Unblocked на X: https://x.com/get_unblocked
РАЗДЕЛЫ
0:00 Введение
0:52 Повестка дня
2:22 Демонстрация: агенты с контекстом и без него
4:17 Половина стоимости
4:57 Трассировка регрессии модели
6:17 Давайте строить
7:11 Вопросы, на которые векторный поиск не может ответить
8:21 Самая сложная часть: Создание каркаса
9:46 Механизм запросов к документам
10:31 Автоматическое обнаружение схемы
12:26 Разрешение идентификаторов
13:45 Проверка запросов
15:50 Повторные попытки
16:35 Полнотекстовый поиск
18:30 Симулятор контекстного механизма
Запись сделана на Всемирной выставке инженеров-ИИ 2026 в Сан-Франциско.
Подпишитесь, чтобы получать больше докладов от инженеров, создающих приложения с использованием ИИ.
AI Engineer: https://ai.engineer
YouTube: / @aidotengineer
X: https://x.com/aiDotEngineer
LinkedIn: / aidotengineer
#ContextEngineering #RAG #AIEngineer