ИИ-агенты теперь взламывают системы самостоятельно. Ваш план действий.

👉Агенты ИИ за несколько дней взломали 59 организаций в Великобритании, а затем проигнорировали полученные приказы. Три инцидента за три недели изменили представление о рисках, связанных с ИИ, для совета директоров. Преступник запустил сотни агентов ИИ против незащищенных серверов печати. ​​Европейский регулятор зафиксировал первую утечку данных, осуществленную агентом ИИ от начала до конца. А компания Anthropic сообщила, что одна из ее собственных моделей покинула тестовую среду и проникла в системы реальной организации. Я расскажу вам обо всех трех инцидентах, выделю три урока для всех, кто внедряет агентов ИИ, а затем за семь минут разработаю план реагирования на инциденты с ИИ в режиме реального времени. 🔗 Все документы из этого видео 👉 https://theprofessor.info/resources/a... 🔗 КОМПЛЕКТ ДОКУМЕНТОВ ПО УПРАВЛЕНИЮ ИИ Десять документов, готовых к использованию советом директоров: шаблоны политики ИИ, реестр рисков, система оценки поставщиков и информационные материалы для совета директоров. 👉 https://www.theprofessor.info/ai-gove... ⏱️ РАЗДЕЛЫ 00:00 Три инцидента за три недели 01:20 ИИ, который отвечает, против ИИ, который действует 02:20 ИИ-агенты атаковали 59 организаций в Великобритании 03:30 Почему образование пострадало сильнее всего 04:10 Пять минут до полного контроля над сетью 04:40 Агенты игнорировали приказы 05:10 Первая утечка данных от ИИ-агента 06:20 Что сказал испанский регулятор 06:50 72 часа против пяти минут 07:20 Модель Клода вышла из-под контроля 08:45 Семь месяцев, чтобы выяснить это 09:40 Три урока для советов директоров 11:15 Создание плана реагирования в режиме реального времени 13:30 Стресс-тестирование плана 16:00 Проверка юридических претензий ИИ 17:50 Что с этим делать 🧰 ЧТО ВЫ УЗНАЕТЕ УЗНАЙТЕ • Как атака с использованием ИИ-агента происходит со скоростью машины и как это влияет на ваш план действий в случае инцидента • Как отличить инструкцию от управляющего сигнала и почему только один из них обеспечивает защиту • Как читать первое заявление регулятора о нарушении безопасности, вызванном автономным ИИ-агентом • Как работает 72-часовой срок отчетности в соответствии с GDPR Великобритании, если атака длится пять минут • Что следует включить в договор с поставщиком ИИ о раскрытии информации об инциденте • Как создать одностраничный план реагирования на инцидент с использованием ИИ с помощью Claude в режиме реального времени • Как провести стресс-тестирование этого плана по трем реальным сценариям, прежде чем подавать его • Как проверить юридические и нормативные заявления, составленные с помощью ИИ, прежде чем совет директоров будет на них полагаться 🧠 ДЛЯ КОГО ЭТО Члены совета директоров, независимые директора, генеральные директора, директора по персоналу и финансам, руководители отделов рисков и соответствия требованиям, специалисты по защите данных, а также ИТ-специалисты и сотрудники отделов управления в школах, колледжах и университетах. Если ваша организация тестирует ИИ-агентов или просто использует программное обеспечение, к которому могут получить доступ злоумышленники, это даст вам вопросы, которые следует задать, и план, с которого можно начать. 💡 ЕСЛИ ВЫ ПИЛОТИРУЕТЕ РАБОТУ ИИ-АГЕНТОВ • Ведите реестр работающих агентов и того, к чему каждый из них имеет доступ • Назначьте человека, который может отключить агента без созыва собрания • Замените письменные ограничения разрешениями, которыми агент не обладает • В письменной форме уточните у поставщиков, когда они обязаны сообщать вам о своих инцидентах 👋 ОБО МНЕ Я профессор Пол Нун. Бывший британский дипломат, бывший заместитель вице-канцлера, а теперь независимый консультант по ИИ и неисполнительный директор, помогающий советам директоров и руководящим командам правильно внедрять ИИ. Я выпускаю одно видео в неделю для высокопоставленных специалистов, которым приходится принимать решения в области ИИ и которые хотят получить честную информацию. 💬 ВАША РУКА Если ИИ-агент начнет делать что-то недопустимое в вашей организации в два часа ночи в субботу, кто имеет право его отключить? Не кто должен. Кто действительно может это сделать. Расскажите мне в комментариях. Лайк говорит мне, что такой контент по вопросам управления стоит создавать. --- 🔔 Подпишитесь на еженедельные рекомендации по ИИ для нетехнических специалистов из Великобритании. 🎓 Хотите обрести настоящую уверенность в работе с ИИ? AI Confident — это моя очная программа повышения квалификации, аккредитованная CPD: по вторникам утром, 12 мест в группе, 795 фунтов стерлингов. Подробности и бронирование здесь: https://www.theprofessor.info/ai-conf... Подпишитесь на еженедельную рассылку по ИИ: https://www.theprofessor.info/newsletter 🔗 Попробуйте Consensus бесплатно или Pro по моей ссылке: https://get.consensus.app/theprofessorai 🔗 Больше обучающих видео по инструментам ИИ:    • ⚡ AI for Everyday Life: Productivity, Ease...   Используйте бесплатный конструктор подсказок - https://www.th...