GitHub Copilot: оптимизация токенов [APAC]

Эта сессия посвящена тому, как помочь клиентам максимально эффективно использовать каждый токен в модели оплаты по факту использования, перейдя от минимизации затрат к оптимизации качества. Мы рассмотрим, как качество агентов, управление контекстом и выбор модели напрямую влияют как на потребление токенов, так и на результаты. Участники узнают о практических стратегиях сокращения потерь токенов, повышения точности работы агентов и разработки более эффективных рабочих процессов, что в конечном итоге приведет к повышению рентабельности инвестиций в разработку с использованием ИИ. Эта сессия подходит для всех пользователей GitHub Copilot. Модели и ценообразование для GitHub Copilot - https://aka.ms/GHCP/models-pricing Разделы: 00:00 – Приветствие и обзор сессии Введение в оптимизацию токенов GitHub Copilot и цели сессии. 00:12 – Об организаторе Познакомьтесь с Анной, вашим организатором мероприятий Microsoft Reactor из Редмонда. 00:20 – Организационные вопросы Кодекс поведения и рекомендации по взаимодействию с аудиторией. 00:47 – Что ожидать сегодня Формат сессии, доступность записи и интерактивная сессия вопросов и ответов. 00:59 – Знакомство со спикером: Тодд Толлер Старший архитектор облачных решений в Microsoft представляет тему. 01:21 – Почему важна оптимизация токенов Влияние системы оплаты на основе использования GitHub на разработчиков. 02:26 – Структура сессии Программа из трех частей: качество агентов, основы LLM и советы по оптимизации. 03:48 – Фокус на качестве агентов, а не на стоимости Почему повышение качества агентов снижает потери токенов. 06:21 – Как повысить рентабельность инвестиций с помощью агентов ИИ Как сделать так, чтобы каждый токен имел значение благодаря лучшему дизайну. 08:52 – Понимание накопления ошибок в агентах Накопление ошибок и почему качество имеет решающее значение для надежности. 10:21 – Ключевой принцип: контекст – это все Оптимальный размер контекстного окна для баланса производительности и стоимости. 12:48 – Что такое агенты в GitHub Copilot? Как агенты взаимодействуют с LLM и почему важен их дизайн. 14:41 – Подробный анализ: контекстные окна и стоимость токенов Что такое токены на самом деле и почему они накапливаются в разговорах. 16:23 – Объяснение двух основных проблем контекста Смещение «потерянного посередине» и смещение «недавности» в разговорах с LLM. 18:53 – Практические рекомендации по оптимизации токенов Когда оптимизация важна, а когда нет. 20:30 – Рычаг №1: Выбор модели имеет значение Выбор правильной модели ИИ для правильной задачи. 22:23 – Рычаг №2: Предоставляйте только релевантный контекст Избегайте перенасыщения подсказок – советы по проектированию контекста. 24:26 – Эффективные стратегии подсказок Уменьшение двусмысленности, четкое описание задач и советы по оптимизации. 27:02 – Поэтапный рабочий процесс для повышения эффективности Исследование, планирование и реализация этапов для сокращения использования токенов. 29:04 – Детерминированное управление: почему важны тесты Тестирование методом «сдвига влево» и добавление защитных механизмов для агентов ИИ. 32:26 – Конфигурации агентов для управления контекстом Пользовательские подсказки, постоянные инструкции и настройки агентов. 35:06 – Написание эффективных инструкций для агентов Лучшие практики для создания лаконичных и высокоэффективных конфигураций. 36:03 – Использование пользовательских агентов и навыков Агенты, специфичные для ролей, и модульный, многократно используемый контекст. 40:20 – Расширенное управление контекстом с помощью MCP Интеграция внешних API и инструментов без разрастания токенов. 41:40 – Под-агенты и условная оптимизация Когда и как использовать под-агентов для больших или сложных задач. 43:50 – Профессиональные советы для опытных пользователей Свертывание вызовов инструментов, CLI против MCP и специализированные методы. 45:30 – Долгосрочная стратегия успеха Развитие сильных аналитических навыков и применение хорошей архитектуры. 47:47 – Краткий обзор 5 главных советов по оптимизации Краткие практические рекомендации по повышению эффективности использования токенов GitHub Copilot. 48:44 – Заключительные замечания и ключевая цитата «Пишите как можно меньше контекста, но столько, сколько необходимо». 49:13 – Начало вопросов и ответов в прямом эфире Практические вопросы от разработчиков по оптимизации токенов. 55:13 – Заключительные благодарности и ссылка на обратную связь Подведение итогов и опрос для дальнейшего совершенствования. #MSFTReactor #learnconnectbuild [eventID:27232]