Безопасность ИИ отстает от его возможностей | Боаз Барак

Профессор информатики Гарвардского университета и технический сотрудник OpenAI Боаз Барак присоединяется к MTS, чтобы обсудить влияние ИИ на математику, управление и безопасность. Он излагает свои опасения по поводу постепенного снижения возможностей человека, оценивает ограничения автоматизированных исследований выравнивания и реагирует на краткосрочные прогнозы относительно рекурсивного самосовершенствования. Ознакомьтесь с нашим спонсором Lovable: https://lovable.dev. Превратите идеи в программное обеспечение, которое нравится людям. — https://x.com/boazbaraktcs — MTS — это новостная программа в прямом эфире с интервью, освещающая технологии, бизнес, политику и культуру в режиме реального времени. Подписывайтесь на MTS: X |   / mtslive   YouTube |    / @mtsituation   Spotify | https://open.spotify.com/show/4HUNNmV... Apple | https://podcasts.apple.com/us/podcast... Substack | https://mtslive.substack.com/ Хотите стать спонсором шоу? ⁠⁠⁠⁠⁠⁠⁠sponsors@mts.now⁠⁠⁠ -- Представлено: Mongo DB - Любой может создать прототип агента. Узнайте, как запустить его в производство 30 сентября в Нью-Йорке - зарегистрируйтесь по ссылке: ⁠https://www.mongodb.com/events/mongod... Lovable - Превратите идеи в программное обеспечение, которое любят люди, с помощью Lovable. Начните сегодня на ⁠https://lovable.dev/⁠ Larridin - Наконец-то докажите, чего стоят ваши инвестиции в ИИ. Перейдите сегодня на ⁠https://larridin.com/⁠, чтобы начать измерять прибыль от вашего ИИ. Neon (от Databricks) — получите до 100 000 долларов США в виде кредитов для вашего стартапа на сайте https://neon.com/mts ElevenLabs — ИИ, который общается на человеческом уровне по всем каналам и модальностям. https://elevenlabs.io/mts Arena — измерение производительности ИИ в реальном мире. https://arena.ai/ Kong — платформа для подключения ИИ. Соединяйте API, LLM, агентов и системы с серьезной безопасностью и управлением. https://konghq.com Сегодняшний стрим спонсируется VCX, публичным тикером для частных технологических компаний. Перейдите на сайт http://getvcx.com, чтобы узнать больше. Blitzy — автономная разработка программного обеспечения для корпоративных кодовых баз. Выпускайте продукты в 5 раз быстрее. https://blitzy.com AdQuick — Превратите свой бренд в рекламный щит. Наружная реклама масштабируется так же легко, как и цифровая. https://adquick.com Chargebee — Инфраструктура для выставления счетов и монетизации в эпоху ИИ. https://www.chargebee.com/ -- Временные метки: (00:00) Введение (02:16) Отвержение диктаторов ИИ (05:38) Идеальная роль управления ИИ (08:02) Темпы прогресса в обеспечении безопасности ИИ (10:12) Роль ИИ в согласовании (13:09) Математика как микрокосм лишения прав (15:19) Роль человека в сверхинтеллектуальной математике (20:32) Рекурсивные графики самосовершенствования -- Примечание: Этот подкаст не является инвестиционной, юридической или налоговой консультацией и предназначен только для информационных и развлекательных целей. Ведущие и гости могут владеть акциями компаний и ценными бумагами, обсуждаемыми в подкасте; проведите собственное исследование, прежде чем принимать какие-либо решения на основании услышанного.