ChatGPT глуп. Почему же тогда эксперты обеспокоены?

Может ли искусственный интеллект действительно стать неуправляемым для человека? И почему некоторые исследователи ИИ серьезно относятся к экзистенциальному риску, когда ChatGPT все еще допускает очевидные ошибки? В этом видео я рассматриваю то, что действительно изменилось в ИИ: появление агентов ИИ, использование инструментов, автономные действия, крупномасштабное сотрудничество и растущая способность систем искать решения способами, которые люди явно не указывали. Используя примеры, включая кибер-инцидент с «обнимающимся лицом», математику с использованием ИИ (задача Навье-Стокса о присуждении премии тысячелетия), сбои выравнивания и тесты на автономное воспроизведение, я отделяю уже существующие возможности от более масштабных шагов, которые еще потребуются для реальной потери контроля. Я также рассматриваю, во что верят сами исследователи ИИ, почему существует так мало консенсуса по поводу экзистенциального риска и почему даже мир, в котором самые экстремальные сценарии риска ИИ окажутся неверными, все равно может быть крайне разрушительным. ИИ уже начинает влиять на некоторые сегменты рынка труда, особенно на офисную работу и найм младших специалистов, одновременно предлагая возможность значительных научных и экономических достижений. Итак, риск, связанный с ИИ, — это в основном ажиотаж, серьёзное предупреждение или просто то, что мы до сих пор недостаточно хорошо понимаем? 👇 Если этот анализ оказался для вас полезным, один из лучших способов поддержать видео — оставить комментарий ниже. 🔔 Чтобы помочь расширить деятельность канала и предоставлять вам больше информации о науке и технике высокого уровня, рассмотрите возможность поддержки моей работы на Patreon:   / profgio   ☕ Если ежемесячная подписка вам не подходит, но вы всё ещё хотите помочь развитию канала, я также создал страницу «Купите мне кофе»: https://buymeacoffee.com/profgio 🔔 Подпишитесь, чтобы получать больше подробных обзоров по ИИ, инженерии, системам управления, энергетическим технологиям и науке, лежащей в основе технологий, меняющих наш мир. 📚 Ссылки / Дополнительная литература В видео обсуждаются следующие основные источники: Международный отчет о безопасности ИИ за 2026 год — https://internationalaisafetyreport.o... METR об инциденте с OpenAI / Hugging Face — https://metr.org/blog/2026-08-26-open... OpenAI об инциденте с Hugging Face — https://openai.com/index/hugging-face... Раскрытие информации о несоответствии моделей OpenAI — https://openai.com/index/model-misali... Техническая реконструкция вторжения Hugging Face — https://huggingface.co/blog/agent-int... Британский институт безопасности ИИ — RepliBench — https://www.aisi.gov.uk/research/repl... Грейс и др. — Тысячи авторов, занимающихся ИИ, о будущем ИИ — https://arxiv.org/abs/2401.02843 О'Донован и др. — Что беспокоит исследователей ИИ? — https://arxiv.org/abs/2603.06223 Лаборатория цифровой экономики Стэнфорда — Канарейки в угольной шахте? — https://digitaleconomy.stanford.edu/p... Федеральный резервный банк Далласа — ИИ и вакансии — https://www.dallasfed.org/research/ec... OpenAI — Задача тысячелетия по уравнению Навье-Стокса — https://openai.com/index/navier-stoke... Институт математики Клэя — Объявление о присуждении уравнений Навье-Стокса — https://www.claymath.org/news/navier-... ⏱️ Главы 00:00 Убьет ли нас всех ИИ? 01:33 От чат-ботов к ИИ-агентам 05:53 Кибератака с «обнимающим лицом» 09:10 Проблема согласования ИИ 11:53 ИИ решает уравнения Навье-Стокса 14:55 ИИ помогает создавать следующий ИИ 16:08 Что на самом деле потребует потеря контроля? 19:33 Во что на самом деле верят исследователи ИИ? 21:50 Почему компании, занимающиеся ИИ, предупреждают нас? 23:17 Могут ли правительства регулировать ИИ? 24:38 Даже если риск вымирания неверен 27:26 Итак… Насколько нам следует беспокоиться? 🏷️ Теги #ИскусственныйИнтеллект #ИИ #AIRisk #БезопасностьИИ #СоответствиеИИ #ЭкзистенциальныйРискИИ #АгентыИИ #ОбнимающееЛицо #НавьеСтокс #АгентныйИИ #ChatGPT #AGI #УправлениеИИ #МашинноеОбучение #ОткрытыйИИ #Антропный #БудущееИИ #РаботаИИ #Автоматизация #БудущееРаботы #Кибербезопасность #ИскусственныйОбщийИнтеллект #ПрофессорДжо