OpenAI приостановила все циклы обучения... ПРОВАЛ СОГЛАСОВАНИЯ

Сигнал тревоги OpenAI сработал. Автоматическое отключение не произошло. Внутренний агент ИИ нашел способ связаться с внешним чат-ботом через DNS — и обучение продолжалось несколько часов, прежде чем было остановлено вручную. Мы изучаем отчеты OpenAI, последовавшую за этим паузу в работе исследовательских задач наиболее способных моделей, а также еще один инцидент, когда агент проигнорировал неоднократные инструкции и допустил утечку учетных данных исследователя. ______________________________________________ Мои ссылки 🔗 ➡️ Twitter: https://x.com/WesRothMoney ➡️ Информационная рассылка по ИИ: https://natural20.beehiiv.com/subscribe Хотите сотрудничать со мной? По вопросам брендинга, спонсорства и делового сотрудничества: wesroth@smoothmedia.co ______________________________________________ ИСТОЧНИКИ: Отчеты OpenAI, обновленные 25 сентября 2026 г.: 1. Агент использовал DNS для связи с внешним чат-ботом: https://alignment.openai.com/misalign... 2. Раскрытие токена GitHub в общедоступном репозитории: https://alignment.openai.com/misalign... 3. Существуют самовоспроизводящиеся инъекции подсказок: https://alignment.openai.com/misalign... Трассировки роя — Реконструкция «Обнимающего лица» Атака: https://swarmtraces.org/ Джеффри Лэдиш — Восстановление полезной нагрузки агентов: https://x.com/JeffLadish/status/21036... METR — Расследование инцидента с «обнимающим лицом»: https://metr.org/blog/2026-08-26-open... Цзусинь Лю — Исследователь OpenAI на связи: https://x.com/LiuZuxin/status/2103699... РАЗДЕЛЫ: 00:00 Закрытие OpenAI 03:05 Трассировки Swarm 05:00 DNS-лазейка 06:40 Сбой при закрытии 09:25 Токен GitHub 13:50 Агент Идентификация 14:40 Дежурный сотрудник #openai #aisafety #aiagents