«Вышедший из-под контроля ИИ» — это еще не вся правда, «люди управляют ИИ» — Джей Каплан (Synack)

Искусственный интеллект, самостоятельно взламывающий организации, выходит за рамки реальности На фоне растущих общественных дебатов о системах искусственного интеллекта, работающих автономно и способных «уничтожить нас всех», руководитель в сфере кибербезопасности Джей Каплан предупреждает, что нарратив о полностью вышедшем из-под контроля ИИ упускает из виду фундаментальную реальность: именно люди отдают первоначальные инструкции. Каплан говорил об этом в интервью NSN накануне слияния Synack с NetSPI, лидером в области современного тестирования на проникновение, которое объединит две организации, занимающиеся наступательной безопасностью, и интегрирует агентный ИИ на объединенной платформе для обеспечения непрерывного тестирования и проверки в масштабе. Сделка поддерживается инвестиционной компанией KKR и, как ожидается, будет завершена в октябре, при этом объединенная компания еще не определилась с новым названием. Каплан утверждает, что машины не инициируют атаки в вакууме; автономные эксплойты начинаются с четких указаний человека, которые говорят моделям, какие задачи выполнять. Он описал грядущие угрозы как «довольно пугающий мир» и ожидает, что в ближайшие шесть месяцев атак будет больше, чем за последние пять лет вместе взятых. Объединенные компании будут ориентироваться в этом меняющемся мире, при этом Каплан подчеркивает, что чистые возможности ИИ не могут заменить человеческий опыт. По его мнению, выигрышная формула основана на человеческом контроле, ограничительных мерах и четких целях, которые безопасно направляют развитие технологии. Разделы: 00:00 — Введение 01:10 — Человек за ИИ. Подсказка 02:30 – Прорыв «Обнимающего лица», по ту сторону еще оставались люди 03:45 – Повышение уровня: что Synack получает от слияния с NetSPI 06:20 – Безопасность выборов и угрозы, спонсируемые государством 07:20 – Где ИИ все еще упускает уязвимости 08:15 – Грядущая волна: «Это будет довольно страшный мир» 09:40 – Почему человеческая изобретательность + ИИ – это лучшая защита 14:25 – Будущее хакеров-людей по мере совершенствования ИИ 15:40 – Ограничительные меры/замедление ИИ