Секреты архитектуры безопасности ИИ, которые нужно знать ПРЯМО СЕЙЧАС

Если вы масштабируете GenAI за пределы прототипов, этот эпизод станет для вас руководством. Маянк и Прабх подробно рассматривают практичную, готовую к облачным технологиям архитектуру безопасности ИИ — как защитить данные, модели, подсказки и конвейеры обработки данных, оставаясь при этом в соответствии с Законом ЕС об ИИ, NIST AI RMF и ISO 42001. Мы обсуждаем, что меняется, когда модели становятся ценными активами, как применять концепцию нулевого доверия к обучению и выводу результатов, и как безопасно внедрять продукт, не замедляя процесс разработки. 00:00 - 02:20 - Введение и учетные данные гостя 02:00 – 07:00 - Карьерный и личный путь Маянка Лау и повестка дня 07:00 – 13:25 - Разница между традиционной ИТ-безопасностью и архитектурой безопасности ИИ 13:35 – 20:57 - Контроль данных для обучения ИИ 20:57 – 25:31 - Роль конвейера в ИИ 25:31 – 31:45 - Моделирование и атаки с участием злоумышленников 31:45 – 42:09 - Доступ и идентификация 42:09 – 45:13 - Прозрачность и объяснимость ИИ 45:13 – 50:23 - Сторонние и облачные решения ИИ 50:23 – 56:06 - Как изменится реагирование на инциденты? 56:06 – 01:00:25 - Управление ИИ и соблюдение нормативных требований 01:00:25 – 01:05:48 - Перспективы на будущее 01:05:48 – 01:12:12 - Строительные блоки архитектуры ИИ 01:12:12 – 01:17:00 - Пошаговый процесс 01:17:00 - Завершение беседы с благодарностью Маянку Лау и надеждой на продолжение подкаста. Документ https://docs.google.com/document/d/17... Что вы узнаете Безопасность ИИ против традиционной безопасности: новая поверхность атаки на данные, модели, подсказки, инструменты Сборник правил защиты данных: шифрование, контроль доступа, отслеживание происхождения, проверка, аудитируемость Безопасность моделей в производственной среде: тестирование на наличие угроз, контроль подсказок/ответов, мониторинг отклонений Нулевое доверие для ИИ: проектирование с приоритетом идентификации, микросегментация, IAM с минимальными привилегиями, доступ JIT Риски со стороны третьих лиц и цепочки поставок: проверка поставщиков, данные с красной линией, мониторинг результатов, планы выхода Реагирование на инциденты ИИ: обнаружение, локализация, расследование и восстановление после отравления и злоупотреблений Эффективное управление: уровни риска, карты моделей, защитные механизмы политики, участие человека Разработка против Покупка: платформы, ограничения и средства контроля без замедления темпов разработки продукта Защита от устаревания: модульные MLOps, гибкость переобучения/замены, прозрачное управление Для кого это предназначено Для руководителей служб информационной безопасности, архитекторов безопасности, лидеров в области машинного обучения, команд разработчиков платформ и основателей, управляющих GenAI в регулируемых или высокорискованных средах. GEN AI Security    • Gen AI Security in 2025   AI Governance    • AI Governance Simplified: From Zero to Pro   CISO talks    • CISO Master Class   NIST Series    • NIST CSF - Identify Function ((Asset Manag...   GRC Серия    • GRC Practical Approach - Part 1: Introduction   Видео по ISO 27001    • Implementing ISO 27001 in an organization ...   Руководство по внедрению ISO 27001    • ISO 27001 Like Never Seen Before: A Comple...   Практическое руководство GRC Серия    • GRC Practical Series   Интервью GRC    • GRC   Внутренний аудит    • Internal Audit   Учитесь со мной Группа в Telegram https://t.me/Prabhstudy #AISecurity #GenAI #ZeroTrust #AIGovernance #EUAIAct #NISTAI #ISO42001 #MLOps #LLMSecurity #DataSecurity #ModelRisk #AdversarialML #IncidentResponse #SecurityArchitecture #ОблачнаяБезопасность #РискиВЦепочкеПоставок #ОперативнаяБезопасность #СоответствиеИИ #ОбнаружениеУгроз