AI-лаборатории предупреждают: гонка делает утечку «неизбежной»

На той неделе, когда программное обеспечение подверглось обратному проектированию, Сэм Альтман предупредил, что 6.1 Astra «наклоняется к [риску взлома]», а Muse Wonder показала, что гонка не замедляется, я стараюсь отступить назад и показать, куда все это движется, исходя из текущих тенденций. Согласны вы или нет, это, безусловно, интересные времена. Эксклюзивные материалы и видео с ранним доступом без рекламы (9$!):   / aiexplained   Главы: 00:00 - Введение 0:41 Часть 1: Грядущий прорыв 8:43 Часть 2: Почему лаборатории продолжают гонки 15:41 Часть 3: Почему следующие 18 месяцев трудно предсказать Сэм Альтман: риск аварий, Vanity Fair: https://www.vanityfair.com/story/sam-... Дарио Амодей: Мы должны идти в ногу с освоением новых горизонтов: https://darioamodei.com/post/we-must-... Якуб Пахоцкий: Инопланетный разум: https://openai.com/index/an-alien-mind/ OpenAI: прогресс в математике: https://openai.com/index/sharing-ai-p... Математические рукописи OpenAI: https://github.com/openai/math Заявление AHM о выпуске математических материалов OpenAI: https://terrytao.wordpress.com/2026/1... TasteVal: исследовательские предпочтения в системах ИИ: https://pzeroresearch.com/work/tasteval/ Статья TasteVal: https://arxiv.org/abs/2610.06824 Карточка системы Claude Opus 5.5: https://anthropic.com/claude-opus-5-5... Джек Кларк: креативность и рекурсивное самосовершенствование: https://jack-clark.net/2026/10/12/imp... Андрей Карпати: расширяющийся разрыв в восприятии ИИ: https://x.com/karpathy/status/2109361... Axios: компании, занимающиеся ИИ, планируют крупный инцидент: https://www.axios.com/2026/10/09/ai-c... Anthropic: исследование непреднамеренных действий модели: https://www.anthropic.com/research/in... CIAware-Bench: обнаружение вмешательств управления: https://arxiv.org/abs/2606.11063 Йошуа Бенджио: приоритет безопасности в передовых лабораториях: https://www.transformernews.ai/p/yosh... Дэвид Сильвер: Куда мы движемся без ИИ?: https://www.ft.com/content/462c303b-b... Сатья Наделла: модели как внутренние риски: https://x.com/satyanadella/status/210... Beyond Owls: навыки, взлом и бэкдоры: https://arxiv.org/abs/2610.10657 Оуэн Эванс: бэкдоры через числовые последовательности: https://x.com/OwainEvans_UK/status/21... The Verge: математики оценивают релиз OpenAI: https://www.theverge.com/ai-artificia... New York Times: модели ИИ и ураган Исайя: https://www.nytimes.com/2026/10/09/we... Politico: агенты ИИ и закон: https://www.politico.com/news/2026/10... The Economist: закон об ответственности не обуздает ИИ: https://www.economist.com/united-stat... Оливия Шарфман и Дэвид Беллами: биобезопасность и ИИ: https://writing.oliviahelens.com/p/bi... Инженерное выравнивание против науки о несовпадении: https://www.lesswrong.com/posts/Fogmc... Сэм Альтман: лидерство США в области ИИ: https://x.com/sama/status/20806833631... The Guardian: Китай и гонка ИИ: https://www.theguardian.com/technolog... Джо о песочницах ИИ и безопасности: https://x.com/joedaroo/status/2104335... REA: Обратное проектирование чего угодно:   / github_project_called_rea_reverse_engineer   Никита Бир: Изготовление с помощью ИИ: https://x.com/nikitabier/status/21061... Сэм Альтман: Насколько научно-фантастическим это станет?: https://x.com/vikktorrrre/status/2107... Нерекламная рассылка: https://signaltonoise.beehiiv.com/ Подкаст: https://aiexplainedopodcast.buzzsprou...