Как спроектировать многоагентную систему, которая обходит LLM (Large Linear Linear Linear System)

Репозиторий Github → https://goo.gle/race-condition Предыдущий эпизод → https://goo.gle/marathonagent Тысяча агентов ИИ бегут марафон, и почти ни один из них никогда не обращается к LLM. В этом подробном обзоре многоагентной системы Кейси Уэст разбирает одно архитектурное решение, лежащее в основе Race Condition: система из 1000 агентов, построенная на основе комплекта разработки агентов Google (ADK). Вопрос, над которым ломает голову каждый инженер ИИ: когда следует позволить LLM принимать решения, а когда просто написать код в многоагентной системе? Мы прослеживаем одно решение от начала до конца, планируя маршрут марафона, а затем показываем, как та же идея (пропустить LLM там, где он не нужен) масштабируется до тысячи агентов, работающих с детерминированным кодом. Что вы узнаете: Когда использовать LLM, а когда детерминированную логику Приём before_model_callback: сохранить агента, пропустить модель Почему планирование маршрута является детерминированным (NP-трудная задача + алгоритмы Spine и Sprout) Как 1000 автопилотных бегунов не используют LLM Куда на самом деле идут токены (ИИ принимает решение, код выполняется) Масштабирование 1000 сессий без состояния с помощью Redis Главы 00:00 - Введение: 1000 агентов ИИ, которые не используют LLM 00:41 - Когда агенту следует использовать LLM? 01:02 - [Демо] Планирование маршрута марафона 01:59 - Почему Google Maps не может проложить маршрут марафона 05:08 - Почему LLM — неподходящий инструмент (NP-трудная задача) 05:40 - Детерминированный алгоритм spine & sprout 06:58 - Использование AI Studio для выбора алгоритма 09:00 - Хитрость: Пропуск LLM с помощью обратного вызова 12:26 - before_model_callback — раскрытие секрета 17:50 - Бегуны на автопилоте: 1000 агентов, 0 вызовов LLM 21:31 - Сколько токенов? Куда они на самом деле попадают 23:28 - Вторая статья расходов: состояние сессии и Redis 29:05 - Заключение Дополнительные ресурсы: Комплект разработки агентов Google (ADK) → https://goo.gle/3PItVzL Сообщество Google ADK (сервис сессий Redis) → https://goo.gle/4ugzmUw Среда выполнения агентов → https://goo.gle/4nXDhnX Облачное хранилище памяти Google → https://goo.gle/4nXxBtT Протокол Agent2Agent (A2A) → https://goo.gle/4u5x8HF Кейси Уэст в LinkedIn → https://goo.gle/4dXnsJr Энни Ванг в LinkedIn → https://goo.gle/43GCXAo Смотрите больше видео о практическом применении ИИ →    • Get Hands On With AI   🔔 Подпишитесь на Google Cloud Tech → https://goo.gle/GoogleCloudTech #AIAgent #GoogleADK #Gemini #MultiAgentSystem #AgenticAI #GoogleCloud Спикеры: Кейси Уэст, Энни Ванг Упомянутые продукты: Google Agent Development Kit, Gemini API, Agent Runtime, Google Cloud Pub/Sub, AlloyDB, Agent2Agent Protocol