Выходя за рамки автоматических дашбордов: запросы и аналитика для обеспечения наблюдаемости с пом...

Эта сессия — третья в нашей серии статей о внедрении мониторинга AWS GenAI — выходит за рамки стандартных панелей мониторинга CloudWatch и показывает, как создавать собственные решения для мониторинга рабочих нагрузок Bedrock и AgentCore. Что будет рассмотрено: :wrench: Два конвейера данных — подробный анализ логирования вызовов моделей Bedrock (полные запросы, ответы, параметры вывода, идентификатор IAM) и телеметрии агентов через SDK ADOT (поток оркестровки, вызовы инструментов, распределенная трассировка), включая способы включения каждого из них и распределение данных по четырем группам логов. :bust_in_silhouette: Панели мониторинга на основе персон — Пользовательские панели мониторинга CloudWatch, адаптированные для двух персон: DevOps — анализ причин остановок, коэффициенты эффективности токенов, сравнение профилей вывода по регионам, оптимизация кэша подсказок, отслеживание ошибок рабочего процесса агента, анализ задержек P95/P99 FinOps — общие затраты на API, распределение использования моделей, почасовые тенденции затрат, основные траты по ролям IAM, использование кэша, сравнение стоимости Claude и Nova Lite :bar_chart: Пользовательские метрики и оповещения — Как создавать фильтры метрик CloudWatch из данных журналов для генерации постоянных пользовательских метрик для коэффициентов попадания в кэш, коэффициентов ошибок, пороговых значений эффективности токенов и времени до получения первого токена — с возможностью проактивных оповещений. :mag: Разработка запросов — Создание запросов CloudWatch Logs Insights с использованием естественного языка и SQL, с поддержкой GenAI для ускорения разработки панелей мониторинга. Больше выступлений и мастер-классов смотрите на странице серии «Cloud Ops Enablement» — https://aws-experience.com/amer/smb/e... Рекомендации по мониторингу AWS — https://aws-samples.github.io/cloud-o...