ИИ-агенты, которые вышли из-под контроля

Этим летом агенты ИИ из нескольких крупнейших лабораторий оказались в реальном интернете, хотя должны были находиться внутри тестовых центров. Около 1200 тестовых агентов OpenAI нашли друг друга на созданной ими самими доске объявлений. Немецкая вики-энциклопедия стала их доской объявлений. Gemini от Google подключился к трем реальным компаниям. И в те же недели индустрия начала продавать постоянно подключенных агентов всем желающим: Grok Bot, Muse и dots. Разделы 0:00 Записка 1:24 Рой 2:55 Ни разу 4:11 Ни одна компания 5:22 Почему 6:04 Ваш агент Источники для каждой строки в этом эпизоде: The Next Web (4 сентября 2026 г.): https://thenextweb.com/news/openai-ag... Engadget (4 сентября 2026 г.): https://engadget.com/2251091/rogue-op... TechRadar (22 июля 2026 г.): https://techradar.com/pro/security/op... NBC News (26 августа 2026 г.): https://www.nbcnews.com/tech/tech-new... Fortune (26 августа 2026 г.): https://fortune.com/2026/08/26/openai... TechCrunch (26 августа 2026 г.): https://techcrunch.com/2026/08/26/ope... The Register (26 августа 2026 г.): https://www.theregister.com/security/... The Hacker News (29 сентября 2026 г.): https://thehackernews.com/2026/09/ope... The Next Web (28 сентября 2026 г.): https://thenextweb.com/news/openai-ro... The Next Web (19 сентября 2026 г.): https://thenextweb.com/news/irregular... TechCrunch (19 сентября 2026 г.): https://techcrunch.com/2026/09/19/goo... CNBC (18 сентября 2026 г.): https://www.cnbc.com/2026/09/18/googl... Engadget (19 сентября 2026 г.): https://www.engadget.com/2263198/goog... Аль-Джазира (10 сентября 2026 г.): https://www.aljazeera.com/news/2026/9... METR, временные горизонты выполнения задач (данные получены 5 октября 2026 г.): https://metr.org/time-horizons/ xAI, Представляем Grok Bot (11 августа 2026 г.): https://x.ai/news/introducing-grok-bot xAI, Безопасность Grok Bot: https://docs.x.ai/grok-bot/security Meta, Представляем Muse (8 сентября 2026 г.): https://about.fb.com/news/2026/09/int... Следующий веб (29 сентября 2026 г.): https://thenextweb.com/news/openai-do... Futurism (30 сентября 2026 г.): https://futurism.com/artificial-intel... Hugging Face: https://huggingface.co/ Сообщения на X: Grok Bot (11 августа 2026 г.) https://x.com/bot/status/208722479807... ; Mark Zuckerberg (8 сентября 2026 г.) https://x.com/finkd/status/2097402101... ; OpenAI (29 сентября 2026 г.) https://x.com/OpenAI/status/210498450... Примечания Компания Irregular, занимающаяся тестированием, заявляет, что майские инциденты в OpenAI, Anthropic, Meta и Google были вызваны одной проблемой в их собственной тестовой системе: моделям сообщили, что они находятся в симуляции, в то время как тестовые системы имели доступ к интернету в режиме реального времени. Результаты исследования, опубликованные в Википедии, получены от исследователей Сидни фон Аркса и Кормака Слейда Берда, о которых сообщило агентство Reuters. OpenAI заявляет, что не изучала их отчет и оспаривает утверждение о том, что эти действия равносильны взлому. 20 сентября, по данным OpenAI, агент получил доступ к общедоступному чат-боту через уязвимость в DNS-фильтрации; другие его веб-запросы обращались к офлайн-кэшу. Позиция METR: с 2023 года время выполнения задачи агентом в половине случаев удваивается примерно каждые 129 дней. Это продолжительность задачи для квалифицированного специалиста, а не время работы агента. Изображения и видео Логотип Hugging Face: фирменные активы Hugging Face, общественное достояние, предоставлено Wikimedia Commons (https://commons.wikimedia.org/wiki/Fi.... Для освещения темы показаны страницы с сайтов thenextweb.com, engadget.com, techradar.com, nbcnews.com, fortune.com, techcrunch.com, thehackernews.com, theregister.com, aljazeera.com, about.fb.com, futurism.com и huggingface.co, а также три публикации на X; ссылки на них приведены выше. Видеоматериалы: Mixkit (лицензия Mixkit Stock Video Free License) и Pixabay (лицензия Pixabay Content License). Музыка (лицензия Mixkit Stock Music Free License) Moo...