Бизнес не готов к Дикому Западу AI-агентов — Ларри Вентер (C5 Capital)

Опрос ServiceNow, проведенный среди более чем 3700 руководителей служб безопасности, показал, что девять из десяти организаций по всему миру за последний год столкнулись с инцидентами безопасности, связанными с ИИ-агентами. На этой неделе также стало известно, что крупные американские банки обнаруживают ИИ-агентов в учетных записях клиентов. Ларри Вентер, главный специалист по ИИ в C5 Capital, говорит, что компании вступают в «дикий запад ИИ-агентов» и утверждает, что многие организации оказались неподготовленными к технологиям, развивающимся быстрее, чем когда-либо прежде. В этом интервью Вентер объясняет, почему у директора по информационной безопасности может быть самая сложная работа в современном бизнесе, и рассматривает разрыв между советом директоров и корпоративными информационными центрами. Он также анализирует контрастные подходы Amazon и Walmart к агентной коммерции, почему так сложно обнаружить намерения ИИ-агента и как может выглядеть защита от противников с «бесконечной энергией, бесконечным терпением и бесконечными знаниями». Разделы: 00:00 Девять из десяти организаций сталкивались с инцидентами, связанными с ИИ-агентами 01:57 Разрыв между уверенностью и контролем 04:35 Почему у CISO сейчас самая сложная работа 05:22 Почему компании оказались неподготовленными 08:01 Разрыв между советом директоров и мошеннической лабораторией 12:12 Платные модели ИИ против собственных моделей с открытыми весами 16:02 Amazon блокирует ИИ-агентов, в то время как Walmart разрабатывает для них модели 18:30 Когда нарушение становится проблемой национальной безопасности 21:02 Почему так сложно обнаружить намерения ИИ-агента 23:00 Взлом Hugging Face и неумолимый агент 25:39 Ларри Вентер о защите от машин, имитирующих людей