Александр Князев — Взлом AI-агентов: прикладная инструкция к уязвимостям LLM и тулов

Подробнее о конференции Heisenbug: https://jrg.su/xC2gbh — — Скачать презентацию с сайта — https://jrg.su/Trq9Sp Доклад о популярных векторах атак на веб-приложения с AI-агентами. Покажу реальные примеры атак на API, которые могут привести к компрометации системы, раскрытию данных и выполнению нежелательных действий. Разберу несколько разных кейсов атак: прямое и непрямое внедрение промпта, отыгрыш ролей, смена контекста с помощью контекстных токенов. Я даже заставлю LLM провернуть XSS-атаку на другую «жертву».