Почему безопасность ИИ на самом деле является проблемой безопасности данных | Дэвид Гибсон, Varonis

Когда программист-ИИ видит галлюцинацию в виде имени программного пакета, злоумышленники могут просто создать вредоносные пакеты с точно таким же именем, обманом заставив ИИ загрузить вредоносное ПО непосредственно в вашу среду. В этом эпизоде ​​Ашиш беседует с Дэвидом Гибсоном, старшим вице-президентом по стратегическим программам в Varonis, чтобы объяснить, почему быстрое внедрение ИИ-помощников и автономных агентов является, по сути, кризисом информационной безопасности. Мы обсудили, как подключение ИИ к корпоративной среде до защиты данных создает масштабные, непреднамеренные внутренние угрозы, позволяя сотрудникам мгновенно обнаруживать конфиденциальную информацию, которую они не должны видеть. Мы рассматриваем фреймворк Varonis Atlas, который предоставляет единую плоскость управления для инвентаризации систем ИИ, реализации механизмов защиты во время выполнения и выполнения автоматизированного тестирования на проникновение. Дэвид также разбирает возникающие угрозы, такие как «галлюцинационное вторжение», ненадежные входные данные от агентов, и почему управление группами идентификации без понимания доступа к данным подобно тому, как держать связку ключей, не зная, какие двери они открывают. Заданные вопросы: 00:00 Введение в ИИ-агентов и безопасность данных 02:00 Опыт Дэвида Гибсона в ИТ и его приход в Varonis в 2006 году 03:30 Подкаст «Состояние киберпреступности» и сегмент «ИИ для ИИ» 05:00 Главная тема: как пробелы в аудите устаревших данных усиливают риски, связанные с ИИ 07:30 Непреднамеренные внутренние угрозы: сотрудники находят конфиденциальные данные с помощью ИИ 10:00 Новые угрозы со стороны агентов: ненадежные входные данные и SQL-инъекции на стероидах 11:00 Угроза «галлюцинаторного сквоттинга» со стороны злоумышленников 12:30 Возможности Copilot, Claude Cowork и распространение корпоративных ИИ-агентов 14:30 Сокращение уязвимостей: инвентаризация ИИ и обеспечение соблюдения ограничений во время выполнения 16:30 Почему ИИ-агенты похожи на «Стажеры с благими намерениями, которые никогда не спят» 19:30 Структура Varonis Atlas: инвентаризация, тестирование на проникновение и контроль во время выполнения 24:00 Интеграция защиты электронной почты для предотвращения подделки данных сотрудниками службы поддержки ИТ 29:30 Стратегия безопасности «изнутри наружу»: начиная с уровня данных 32:30 Пробел в идентификации: держа в руках связку ключей, не зная, какие двери она открывает 34:30 Выход из «этапа отрицания» внедрения теневого ИИ 38:00 Шутливый вызов в кибербезопасности «Смеешься — проигрываешь» -------------------------------------------------------------------------------- 📱Подкаст о безопасности облачных вычислений в социальных сетях📱 _____________________________________ 🛜 Веб-сайт: https://cloudsecuritypodcast.tv/ 🧑🏾‍💻 Интенсивный курс по безопасности облачных вычислений - https://www.cloudsecuritybootcamp.com/ ✉️ Информационная рассылка по безопасности облачных вычислений - https://www.cloudsecuritynewsletter.com/ Twitter:   / cloudsecpod   LinkedIn:   / cloud-security-podcast   #cloudsecurity