Масштабное обновление в области безопасности: ИИ ∧ Формальные методы с Кэтлин Фишер из RAND и Бай...

Кэтлин Фишер и Байрон Кук углубляются в изучение автоматизированного рассуждения и формальной верификации как инструментов для создания действительно безопасных программных систем. Объявление для разработчиков ИИ: Интересуетесь согласованием, управлением или безопасностью ИИ? Узнайте больше о летней стипендиальной программе MATS 2026 и отправьте свое имя, чтобы получить уведомление об открытии приема заявок: https://matsprogram.org/s26-tcr. Они объясняют, как формальные методы могут защитить критическую инфраструктуру от кибератак с использованием ИИ, и как предположения, спецификации и доказательства объединяются для обеспечения реальных гарантий безопасности. В ходе беседы рассматривается использование этих методов для обучения моделей кодирования, обеспечения «масштабной переработки программного обеспечения» и работы новых автоматизированных проверок рассуждений AWS для агентов ИИ и соответствия политикам. СПОНСОРЫ: MATS: MATS — это полностью финансируемая 12-недельная исследовательская программа, объединяющая перспективных специалистов с ведущими наставниками в области согласования, интерпретируемости, безопасности и управления ИИ. Подайте заявку на участие в следующем потоке по ссылке https://matsprogram.org/s26-tcr Tasklet: Tasklet — это ИИ-агент, который автоматизирует вашу работу круглосуточно; просто опишите, что вам нужно, простым языком, и он выполнит задачу. Попробуйте бесплатно и используйте код COGREV для получения 50% скидки на первый месяц по ссылке https://tasklet.ai Agents of Scale: Agents of Scale — это подкаст генерального директора Zapier Уэйда Фостера, в котором представлены беседы с руководителями высшего звена, возглавляющими трансформацию с помощью ИИ. Подпишитесь на подкаст везде, где вы слушаете подкасты. Shopify: Shopify обслуживает миллионы предприятий по всему миру, обрабатывая 10% электронной коммерции США. Сотни шаблонов, инструменты ИИ для описания товаров и беспроблемное создание маркетинговых кампаний — это как иметь дизайн-студию и маркетинговую команду в одном лице. Начните свою пробную подписку за 1 доллар в месяц уже сегодня на https://shopify.com/cognitive РАЗДЕЛЫ: (00:00) Об эпизоде (04:52) ИИ меняет кибербезопасность (10:16) Основы формальных методов (17:46) Предположения о свойствах безопасности (Часть 1) (21:27) Спонсоры: MATS | Tasklet (24:27) Предположения о свойствах безопасности (Часть 2) (28:31) Вертолетная формальная верификация (38:15) Достоверность доказательства и AWS (Часть 1) (41:52) Спонсоры: Agents of Scale | Shopify (44:40) Доказательная уверенность и AWS (Часть 2) (50:33) Автоматизированное обоснование политик (01:04:39) Генеративный ИИ и верификация (01:19:42) Обеспечение безопасности будущих систем ИИ (01:31:19) Агентные механизмы защиты и управление (01:40:44) Заключение ПРОИЗВЕДЕНО: https://aipodcast.ing СОЦИАЛЬНЫЕ ССЫЛКИ: Веб-сайт: https://www.cognitiverevolution.ai Twitter (Подкаст): https://x.com/cogrev_podcast Twitter (Натан): https://x.com/labenz LinkedIn:   / nathanlabenz   Youtube:    / @cognitiverevolutionpodcast   Apple: https://podcasts.apple.com/de/podcast... Spotify: https://open.spotify.com/show/6yHyok3...