Все говорят, что ИИ развивается слишком быстро, так почему мы не притормаживаем?

Две трети американцев считают, что ИИ развивается слишком быстро. Так считают и те, кто его создает. Так почему же никто не замедляет темпы? Мы не можем определить, когда модели становятся слишком опасными. В основном мы не знаем, как они работают. Мы не знаем, как заставить их делать то, что нам нужно. И наши две основные проверки безопасности — тестирование поведения и мониторинг их «мыслей» — дают сбой. Тем не менее, мы все равно стремимся создавать более мощные ИИ, с каждым годом все быстрее. И этот процесс будет только ускоряться по мере того, как сам ИИ будет становиться все лучше и лучше в создании моделей следующего поколения. В начале этого года OpenAI обнаружила, что ее новая модель Astra оказалась пугающе хорошо взламываемой, и сделала то, чего компании почти никогда не делают: приостановила свой крупнейший проект по обучению. Но она все равно выпустила Astra, хотя тесты не смогли доказать ее безопасность. В этом и проблема, когда мы оставляем все на усмотрение компаний. Мы не можем доверять им в том, что они будут действовать в наших интересах, потому что конкурентное давление, заставляющее их спешить вперед, слишком сильно. Итак, какое же решение? Луиза Родригес оценивает вероятные варианты: 1. Контрольные точки безопасности, когда новые модели могут взламываться, работать без контроля или создавать биологическое оружие. 2. Ограничение вычислительной мощности как лимит скорости разработки ИИ. 3. Предотвращение использования ИИ для создания более мощных ИИ. 4. Полная приостановка разработки. Ни один из этих вариантов не будет простым. Но с учетом все более широкого распространения взлома ИИ мы уже видим последствия бездействия — и это только начало. Замедление темпов может дать нам время понять, почему модели так сложно контролировать; защитить больницы, банки и электросети от взломов; и помочь обществу адаптироваться. В этом разговоре должны участвовать все, а не только руководители и политики. Правила, которые в итоге у нас появятся, будут формироваться в зависимости от запросов избирателей и могут определить будущее, в котором будем жить все мы. Этот эпизод был записан 21 октября 2026 года. Ссылки для получения дополнительной информации и полной стенограммы: https://80k.info/AI-slowdown Главы: • Все говорят, что ИИ развивается слишком быстро (00:00:00) • Что именно мы будем замедлять? (00:01:28) • Позволить компаниям стремительно развиваться (00:02:13) • Обязать компании проходить контрольные пункты безопасности (00:06:03) • Установить ограничение скорости разработки ИИ (00:09:39) • Ограничить то, насколько ИИ может помочь в создании ИИ (00:11:11) • Полностью приостановить разработку более мощного ИИ (00:13:04) • Что мы на самом деле выиграем от замедления? (00:16:34) • Кто на самом деле мог это осуществить? (00:18:38) • К чему это нас приводит (00:20:16) В состав нашей производственной команды входят: • Видеоредакторы: Джош Алвард, Доминик Армстронг, Джаспер Луитлен, Майло Макгуайр, Люк Монсур, Саймон Монсур, Олли Бигнелл и Андрес Эскобар • Продюсеры: Элизабет Кокс и Ник Стоктон • Координация и поддержка: Кэти Мур, Лу Моран, Коди Фенвик и Джозеф Айзек • Оператор: Доминик Армстронг _Авторские права на изображения и видеоматериалы: Андерс Эйдесвик (CC BY-SA 4.0); Дарио Амодей; Import AI (Джек Кларк); Truth Social (Дональд Дж. Трамп); POLITICO; OpenAI; Anthropic; NIAID (CC BY 2.0); Apollo Research; Epoch AI; CNBC; Google DeepMind; The New York Times; Marginal Revolution (Тайлер Коуэн); CTV News; democracynow.org (CC BY-NC-ND 3.0); Vermont Public (AP); Daily Nous; Working Group on AI Pause Feasibility; Malwarebytes; Palisade Research; The Stack; официальное фото Белого дома, сделанное Джойс Н. Богосян (общественное достояние); Al Jazeera; AI Weekly; FourWeekMBA; Управление по санитарному надзору за качеством пищевых продуктов и медикаментов США (общественное достояние)