Растущий разрыв в безопасности ИИ: 178 млн долларов ежегодных убытков

Компания HackerOne провела опрос 303 руководителей служб безопасности глобальных предприятий, чтобы ответить на простой вопрос: успевает ли безопасность ИИ за темпами его внедрения? Данные говорят об обратном. 94% организаций расширили свое присутствие в сфере ИИ за последний год, но только 66% формально протестировали более 60% своих систем ИИ, что, по мнению HackerOne, составляет 28 пунктов разрыва в безопасности ИИ. В этой сессии инженер по решениям Остин Шлессингер подробно рассказывает о реальной стоимости этого разрыва (1,78 млн долларов США в год для организаций, которые все еще находятся в нем, против 1,05 млн долларов США для тех, кто его преодолел), почему отрасль тестирует не те категории угроз и как на практике выглядят пять уровней зрелой программы безопасности ИИ. Он также рассказывает о том, как Anthropic подходит к тестированию безопасности ИИ для Клода, включая проект «красной команды», в рамках которого 339 исследователям было выплачено 55 000 долларов США в качестве вознаграждения до запуска модели, и завершает сессию практическим контрольным списком, который вы можете использовать для оценки уровня безопасности ИИ в вашей организации. Эта сессия является частью виртуального саммита HackerOne по безопасности и рассматривает проблему уязвимости ИИ со всех сторон. Временные метки: 0:00 – Введение: Остин Шлессингер, HackerOne 2:05 – Разрыв: 94% внедряют ИИ, только 66% его тестируют 3:04 – Стоимость проблемы уязвимости ИИ в долларах 3:35 – Почему эта проблема растет быстрее, чем вы думаете 5:56 – Тестирование не тех угроз: что показывают данные 07:52 – Автоматизация против человеческого опыта 09:38 – Подход Anthropic к тестированию безопасности ИИ 13:23 – Контрольный список безопасности ИИ: каково состояние вашей программы? Веб-сайт: https://www.hackerone.com LinkedIn:   / hackerone   Twitter/X:   / hacker0x01   Подпишитесь на YouTube:    / @hackerone   #HackerOne #AISecurity #Cybersecurity #VulnerabilityManagement #RedTeaming #BugBounty #Anthropic #AIThreats #InfoSec #EnterpriseSecurity #SecurityResearch