Нападение против защиты в эпоху ИИ | Дискуссия «Красная команда» против «Синей команды»

Кто имеет преимущество в области безопасности ИИ, когда у злоумышленников и защитников одни и те же модели? В этой дискуссии «красная команда против синей команды» Бен Арент (директор по продуктам) из Teleport обсуждает с Робом (директор по безопасности, Teleport) и Маркусом (основатель, создатель Nemesis) то, как ИИ меняет безопасность инфраструктуры: передовые модели, такие как Mythos, инцидент с «обнимающимся лицом», мгновенная инъекция и «летальная триада», усталость от оповещений в SOC, а также проект Teleport «Pressure Washing», в рамках которого 13 инженеров потратили квартал на поиск уязвимостей с помощью LLM и обнаружили больше серьезных ошибок, чем за 2024 и 2025 годы вместе взятые. Запись сделана в прямом эфире в Нью-Йорке. ⏱️ Разделы 00:00 Введение 01:58 Первые системы, в которые они проникли 03:44 Красная команда, синяя команда, фиолетовая команда 06:00 Как изменилась индустрия безопасности 08:33 Самый большой сдвиг со времен LLM 10:40 Инцидент с «Обнимающим лицом» 13:38 Что не дает вам спать по ночам? 14:04 Передовые модели: ажиотаж против реальности 18:10 Быстрое внедрение и смертельная тройка 19:51 Защита от теневого ИИ внутри вашей компании 21:19 Может ли ИИ заменить вашу команду безопасности? 23:11 ИИ в GRC 23:53 Можно ли полностью автоматизировать красную команду? 25:51 «Мойка под давлением»: 13 инженеров, один квартал, поиск уязвимостей LLM 28:32 Тестирование на основе свойств и формальная верификация 30:02 Тестирование на основе свойств для инфраструктуры (Nemesis) 32:01 ИИ против ИИ: где находится граница? 33:15 Усталость от оповещений и SOC ИИ 34:54 Один вывод от каждого участника дискуссии 📝 Прочитайте статью в блоге «Мойка под давлением»: https://goteleport.com/blog/finding-v... ▶️ Больше докладов Teleport по безопасности: https://goteleport.com/resources/ 🔔 Подпишитесь, чтобы получать больше информации о безопасности идентификации и инфраструктуры. 🔗 Узнайте больше о Teleport: https://goteleport.com 🔗 Узнайте больше о Nemesis: https://www.persistent-security.net 🐦 Подписывайтесь на нас: https://x.com/goteleport #кибербезопасность #ИИ #redteam