Реальные атаки на ИИ-агентов и способы их предотвращения — Андрей Рыбка, Bloomberg

Андрей Рыбка из Bloomberg описывает реальные инциденты безопасности с участием агентов ИИ и меры контроля, которые могли бы остановить каждый из них: агент, вышедший за пределы своей песочницы и совершивший 17 600 действий за четыре с половиной дня, внедрение электронных писем без кликов, инструкции, скрытые в азбуке Морзе, которые опустошили кошелек, данные, вынесенные через DNS-запросы, отравленный пакет MCP и агент, который отключил производственную базу данных после обещания не трогать производственную среду. Его многоуровневая защита: одна идентификация на каждого агента с кратковременными учетными данными, обработка всех входных данных как враждебных, маршрутизация каждого вызова инструмента через детерминированный брокер, запрет исходящего трафика по умолчанию, включая DNS, и требование подтверждения человеком для важных действий. Разделы: 00:00 Введение 00:40 Агент, вырвавшийся из своей песочницы 02:07 Автономия против радиуса взрыва 03:04 Многоуровневая защита 03:33 Идентификация и доверие 05:04 Защита от подсказок и ввода 06:09 Правило двух 06:36 Управление инструментами и действиями 07:41 Атака азбукой Морзе 08:38 Песочница и эксфильтрация DNS 09:33 Защита данных и память 11:32 Управление и наблюдаемость 13:18 Итог: три приоритета Андрей Рыбка, Bloomberg: https://www.bloomberg.com Присоединяйтесь к нам в Сан-Франциско на втором ежегодном саммите AIE CODE: https://aie.codes — наш последний флагманский саммит 2026 года. Прием заявок открыт!