Безопасное применение ИИ для бизнес-задач

Как безопасно использовать искусственный интеллект в компании? Как обнаружить Shadow AI, контролировать работу сотрудников с публичными нейросетями и защитить AI-агентов, которые получают доступ к корпоративным данным, API и внутренним системам? В эфире AM Live эксперты обсудили безопасность применения ИИ для бизнес-задач: от обнаружения Shadow AI и контроля LLM до защиты AI-агентов, MCP-серверов и tool calls. Разобрали возможности и ограничения LLM / AI Firewall: защиту от prompt injection, контроль данных и запросов к моделям, требования к пилотированию, false positive и false negative, работу с русским языком, локальными моделями и под нагрузкой. Отдельно поговорили об Agent Runtime Security и безопасности AI-агентов: цифровой идентичности, управлении правами и привилегиями, контроле инструментов и действий агента, проверке MCP-серверов и необходимости подтверждения человеком критичных операций. Также обсудили интеграцию AI Security с IAM, PAM, DLP, SIEM, EDR, SWG и API Security и разобрали, с каких шагов компании стоит начинать построение контроля использования ИИ. В эфире приняли участие: Модератор: Илья Самофеев, red_mad_robot Спикеры: ⚡ Вячеслав Валькович, ITGLOBAL.COM, корпорация ITG ⚡ Никита Беляевский, HiveTrace ⚡ Денис Каракай, Гарда ⚡ Максим Князев, К2 Кибербезопасность ⚡ Николай Куликов, ГК Солар ⚡ Алексей Беляков, Лаборатория Касперского Тайм-коды: 00:00:00 — Введение 00:07:13 — Тема Shadow AI 00:08:09 — Проблемы создания реестра 00:10:41 — Риски и ограничения сервисов 00:12:37 — Рост интереса к безопасности ИИ 00:16:27 — Сложности контроля Shadow AI 00:18:30 — Трансформация информационной безопасности 00:20:06 — Ограничения существующих решений 00:21:58 — Проблемы с искусственным интеллектом 00:22:54 — Будущее решений для ИИ 00:23:49 — Перспективы AI-файерволов 00:24:49 — Контроль несанкционированного доступа 00:26:29 — Компромиссы в доступе к ИИ 00:28:00 — Сегментация пользователей 00:29:19 — Результаты опроса о контроле ИИ в компаниях 00:31:46 — Проблемы обнаружения облачных моделей 00:38:14 — Внедрение ИИ и информационная безопасность 00:39:47 — Введение в тему ИИ-активов 00:40:40 — Контроль взаимодействия с ИИ 00:41:40 — Декомпозиция и модель угроз 00:46:33 — Угрозы кибербезопасности при использовании ИИ 00:47:31 — Защита LLM-моделей 00:50:17 — Защита моделей на этапе разработки 00:52:09 — Безопасный цикл разработки ПО 00:54:01 — Реакция на вредоносные ответы ИИ 00:58:30 — Риски ИИ-агентов 01:10:40 — Функции AI-файервола 01:12:32 — Развитие AI-файерволов 01:14:46 — Проблемы внедрения LLM-файерволов 01:15:46 — Комплексный подход к защите 01:17:34 — Кастомизация решений 01:20:14 — Сложности кибербезопасности 01:27:11 — Минимизация рисков 01:28:04 — Киберугрозы и ИИ 01:29:34 — Триаж уязвимостей 01:31:02 — Скорость работы агентов 01:33:09 — Сложности внедрения кибербезопасности 01:35:54 — Права доступа и агенты 01:38:02 — Риски и безопасность 01:39:51 — Уязвимости и агенты 01:41:55 — Идентификация действий агентов 01:43:52 — Контроль над агентами 01:44:47 — Ответственность за действия агентов 01:46:41 — Ограничение прав агентов 01:53:19 — Инфраструктура агентов 01:59:24 — Будущее безопасности ИИ 02:14:02 — Ошибки в использовании ИИ 02:29:59 — Завершение эфира Календарь трансляций AM Live https://amlive.ru/ https://t.me/anti_malware https://vk.com/anti_malware https://www.anti-malware.ru/ По вопросам рекламы: sales@anti-malware.ru