Егор Булычев — Масштабирование агентов: инфраструктура, оценка качества, синтетические данные
JPoint, Joker и JUG ru — Java-конференции
0:00 / 0:00
Егор Булычев — Масштабирование агентов: инфраструктура, оценка качества, синтетические данные
1 793 просмотра · 5 дней назад
JPoint, Joker и JUG ru — Java-конференции
57,6 тыс. подписчиков
1 793 просмотра · 5 дней назад
Подробнее о Java-конференциях:
— весной — JPoint: https://jrg.su/gTrwHx
— осенью — Joker: https://jrg.su/h7yvG4
— —
Скачать презентацию с сайта — https://jrg.su/NXpTyH
В докладе рассматривается практическая задача масштабирования кодовых агентов — от единичных локальных запусков к массовым экспериментам, воспроизводимой оценке качества и генерации синтетических данных для обучения.
Я покажу, как можно выстроить инфраструктуру для кодовых агентов на основе DAG-пайплайнов, где каждый эксперимент описывается как последовательность изолированных шагов: выполнение агента в окружении репозитория, извлечение изменений (git diff/patch), прогон тестов в чистом окружении для честного обмера и расчет метрик качества. Отдельное внимание будет уделено генерации и фильтрации синтетических и реальных задач для кодовых агентов.
В докладе будут затронуты следующие технологии и подходы: контейнеризация и изоляция окружений, построение агентных фремворков, оркестрация и DAG-моделирование экспериментов, автоматизированное тестирование, балансировка LLM-запросов (LLM Proxy).
Целевая аудитория: ML-инженеры, backend- и infrastructure-инженеры, исследователи и тимлиды, которые работают с LLM, агентами или ML-системами в продакшене и сталкиваются с задачами масштабирования, воспроизводимости и оценки качества.