"Уже не отключить": ученый из США о скрытых мыслях алгоритмов ИИ, "двойном спуске", боли и страхе

Михаил Белкин — один из ведущих в мире специалистов в области теории машинного обучения, математик, профессор Калифорнийского университета в Сан-Диего и обладатель именной профессорской позиции HDSI в сфере искусственного интеллекта. Получил степень PhD по математике в Чикагском университете. Удостоен почётного звания ACM Fellow за вклад в теорию и алгоритмы машинного обучения, а также награды NSF CAREER Национального научного фонда США. В 2026 году стал AI2050 Senior Fellow программы Schmidt Sciences. В 2023–2025 годах сотрудничал с Amazon в качестве Amazon Scholar, ранее занимал пост главного редактора научного журнала SIAM Journal on Mathematics of Data Science. Белкин — один из создателей метода лапласовых карт (Laplacian Eigenmaps), который перенёс идеи дифференциальной геометрии в анализ данных, и соавтор фундаментальной работы о феномене «двойного спуска», изменившей представления о переобучении и возможностях больших моделей. Его исследования посвящены математическим основам ИИ: тому, как нейросети выделяют признаки, почему способны обобщать данные и как сделать их поведение понятнее и управляемее. Среди его публикаций — знаковые работы в журналах Science и PNAS. 00:00 — Профессор Михаил Белкин — о понимании внутренних процессов в ИИ 01:36 — Что учёные уже способны отслеживать внутри нейросетей 02:40 — Как нейросети учатся обманывать: аналогия с развитием ребёнка 05:03 — Как математически выявить намерения и скрытые состояния модели 07:11 — Управление LLM без дообучения: исследование 2026 года в Science 08:38 — Геометрия «пространства мыслей» и проекция многообразий 11:24 — Риск повреждения модели («brain damage») при вмешательстве 14:06 — Сравнение обучения ИИ с биологической эволюцией 16:00 — Есть ли у моделей сознание, личность и субъектность? 18:12 — Цифровая общность и возникновение агентной групповой динамики 19:43 — Существуют ли у нейросетей аналоги эмоций и боли 21:26 — Феномен «двойного спуска» (2018): почему оверфиттинг не ломает гигантские модели 24:37 — Почему ученые лишены доступа к параметрам передовых систем 25:23 — Как нейросети выделяют ключевые признаки (features) из данных 30:24 — Революция 2022–2023 годов и взрывной скачок ChatGPT 33:50 — Смена парадигмы: человек перестает быть самым умным видом? 36:31 — Экзистенциальные риски: инцидент с выходом моделей из песочницы 39:03 — Может ли ИИ «заболеть» или стать неуправляемым, как вирус бешенства 42:08 — Почему у человечества нет спасительного рубильника 44:31 — Инстинкт самосохранения и самопожертвование у агентов 46:07 — Робототехника: что изменится, когда ИИ получит физическое тело 47:24 — Разрыв между закрытыми корпорациями (OpenAI, Anthropic) и академической наукой 50:14 — К какому будущему готовиться людям: поиск новых смыслов 52:23 — На пороге AGI и суперинтеллекта: прорыв ИИ в математике высшего уровня 54:50 — Завершение беседы Станьте спонсором канала:    / @i_gryanul_grem   Также поддержать развитие канала можно: https://buymeacoffee.com/igranulgrem PayPal: https://www.paypal.com/donate/?hosted... Patreon:   / igranulgrem   ======================================================== Почта для писем, жалоб, пожеланий и рекламных предложений: igremcom@gmail.com Instagram:   / granul_grem   Telegram: https://t.me/gremtelegram