Наблюдаемость AI-агентов: чтение трассировки с помощью Langfuse

Наблюдаемость ИИ-агента с помощью Langfuse: отслеживайте каждый шаг вашего ИИ-агента, от вызовов модели до вызовов инструментов и решений по защитным механизмам, и читайте трассировку, чтобы узнать, почему ваш агент дал неверный ответ. Всего семь строк кода на Python включают трассировку с помощью OpenTelemetry из Anthropic Python SDK и декоратора @observe из Langfuse. Что вы узнаете: Что такое трассировка и промежуточный сегмент (span) простыми словами, и почему одних логов недостаточно Семь строк кода, включающих трассировку: клиент Anthropic SDK с режимом содержимого, @observe на агенте, инструменты и ограничители, update_current_span для именования промежуточных сегментов инструментов и propagate_attributes для пометки каждого промежуточного сегмента идентификатором пользователя Как читать трассировку: дерево, что видела ваша модель, каждый вызов инструмента, решение вашего ограничителя, а также время и токены Как отлаживать неправильный ответ, читая трассировку в обратном порядке, от ответа к шагу, который пошел не так Три метрики для панели мониторинга ИИ-агента: токены на запрос, задержка и количество запросов, отправленных человеку Где используются фреймворки для агентов: Strands Agents, Claude Agent SDK, OpenAI Agents SDK и LangChain Что я измерил (15 октября 2026 г., мои собственные запуски: 20 запросов в службу поддержки x 3 = 60 трассировок, Qwen 3 4B на ноутбуке через Ollama, вымышленные данные поддержки; небольшие запуски, поэтому тестируйте на своем собственном агенте) Токены на запрос: медиана около 7200, 95-й процентиль около 26000 Задержка: медиана около 61 с, 95-й процентиль около 141 с (небольшая модель на ноутбуке) Отправка человеку: 19 из 60 (13 возвратов и отмен по задумке, 6 изменений модели принятия решений, отправленной Джевом) Запрос на удержание: в 3 из 3 запусков ответ сообщал, что заказ уже находится на удержании, хотя охранник отправил его человеку Источники (прочитано 16 окт. 2026 г.): Anthropic, OpenTelemetry для API Claude (бета-версия); Langfuse Python SDK и документация по инструментарию; Документация по трассировке агентов Strands, SDK агентов Claude, SDK агентов OpenAI и LangChain. Код: https://github.com/mani-aiml/agent-ha... Все приведенные здесь числа получены из моих собственных запусков в указанную выше дату. Ваши числа будут выглядеть иначе, поэтому тестируйте на своем агенте. В озвучке используется клонированный голос моего собственного ИИ. Часть плейлиста Agent Harness Engineering, посвященного навыкам работы с агентами, которые использует инженер по развертыванию (Forward Deployed Engineer, FDE) при развертывании агентов для клиентов:    • Agent Harness Engineering for Forward Depl...   #AIAgents #LLMObservability #Langfuse #AgentHarness #ForwardDeployedEngineer 0:00 Мой ИИ-агент сказал «на удержании», хотя ничего не было на удержании. 1:12 Что такое трассировка? Промежутки и дерево трассировки 2:47 Включение трассировки в 7 строках: Langfuse и Anthropic SDK 5:53 Запуск агента и открытие трассировки в Langfuse 6:11 Как читать трассировку: дерево, входные данные модели, вызовы инструментов 9:04 Отладка неправильного ответа: чтение трассировки в обратном порядке 11:55 Где запрос агента тратит свое время и токены 12:30 Метрики панели мониторинга ИИ-агента: токены, задержка, эскалации 14:03 Трассировка в агентских фреймворках 14:28 Практическое правило для наблюдаемости агента