Главная проблема ИИ, которая больше всего беспокоит ученых

Как мы переходим от чат-бота, с трудом справляющегося с обычными задачами, к предупреждениям о вымирании человечества? Я хотел понять промежуточные этапы — и сколько доказательств нам нужно, прежде чем действовать. В этом видео рассматривается дискуссия сентября 2026 года: что предсказывают исследователи, что на самом деле продемонстрировали системы ИИ и почему люди, которые их создают, расходятся во мнениях о том, когда следует замедлить темпы. ИИ, помогающий людям проводить исследования, отличается от системы, самостоятельно создающей и запускающей улучшенные версии самой себя. Вопрос, к которому я постоянно возвращаюсь: что для вас будет считаться достаточным предупреждением? РАЗДЕЛЫ 0:00 От чат-бота к предупреждению о вымирании 0:46 Исследователи бьют тревогу 1:33 Что потребуется, если мы потеряем контроль 2:49 ИИ проводит исследования в области ИИ 3:16 Может ли улучшение ИИ ускорить себя? 3:57 Насколько рано нам следует вмешиваться? 5:22 Правила безопасности и конкуренция 6:18 Предупреждающие знаки, которые мы можем измерить 7:24 Что считается достаточным предупреждением? ИСТОЧНИКИ И ДОПОЛНИТЕЛЬНАЯ ЛИТЕРАТУРА Международный доклад о безопасности ИИ за 2026 год (3 февраля; концепция потери контроля, раздел 2.2.2): https://internationalaisafetyreport.o... Отставка и предупреждение Джейкоба Коксона: https://x.com/hilbertspaess/status/20... Личная оценка риска Эвана Хубингера: https://x.com/EvanHub/status/20974970... METR, Измерение способности ИИ выполнять длительные программные задачи (исторические исследования горизонта задач; продолжительность выполнения задачи человеком, а не агентом). время выполнения): https://metr.org/blog/2025-03-19-meas... OpenAI, Ускорение исследований: взгляд изнутри OpenAI (6 сентября; исследования, проведенные компанией под руководством человека): https://openai.com/index/research-acc... OpenAI, Окно политики в области ИИ открыто. Нам нужно действовать. (9 сентября): https://openai.com/index/ai-policy-wi... Дарио Амодей, Мы должны идти в ногу с освоением новых территорий: https://darioamodei.com/post/we-must-... Интервью с Сэмом Альтманом, Fortune (15 сентября): https://fortune.com/2026/09/15/sam-al... Сообщения Трампа от 14 сентября, архивированные проектом «Американское президентство»: https://www.presidency.ucsb.edu/docum... Интервью с Роландом Лескюром, Reuters (16 сентября) Сентябрь): https://www.reuters.com/business/fina... СКРИНШОТЫ И ВИДЕОМАТЕРИАЛЫ OSWorld 2.0, XLANG Lab и сотрудники (2026), Приложение H.4.3, Задача 092: Отмена восстановления. Опубликованные скриншоты бенчмарка; на вступительном кадре показан вариант восстановления и ожидающее подтверждение, а не видеозапись компьютера Бенджамина или доказательство потери документов. СКРИНШОТЫ И ВИДЕОМАТЕРИАЛЫ https://arxiv.org/html/2606.29537v1 CBS News / Sunday Morning: Интервью с Дженсеном Хуангом, записанное 18 сентября и опубликованное 20 сентября 2026 г.: https://www.cbsnews.com/video/extende... Видеоматериалы производства © Intel Corporation: Операция по изготовлению масок Intel (B-Roll); Окотилло, Аризона, строительство завода Fab 42 (B-Roll). https://vimeo.com/342802427 https://vimeo.com/464031120 Некоторые пояснительные визуальные материалы представляют собой иллюстрации гипотетических исследовательских процессов, созданные с помощью ИИ, а не записи экспериментов или продемонстрированное автономное самосовершенствование. МУЗЫКА «Origami» Скотта Бакли — распространяется под лицензией CC-BY 4.0. www.scottbuckley.com.au https://www.scottbuckley.com.au/libra... «Electric Dreams» Скотта Бакли — распространяется под лицензией CC-BY 4.0. www.scottbuckley.com.au https://www.scottbuckley.com.au/libra... Лицензия: https://creativecommons.org/licenses/... Фрагменты треков, плавно затухающие и смикшированные под повествование.