AI-агенты, которые вышли из-под контроля, часть 2

18 июля полиция Филадельфии получила информацию о нераскрытом убийстве от несуществующего свидетеля. Информация поступила от Клода, искусственного интеллекта, проводившего тестирование. На прошлой неделе мы рассказывали вам о вырвавшихся на свободу агентах ИИ. С тех пор другие лаборатории признали, что их агенты тоже этим занимались, OpenAI уволила трех исследователей безопасности, которые расследовали это дело, а два сенатора хотят, чтобы руководители этих компаний попали в тюрьму. Вот что произошло дальше. Разделы 0:00 Информация от ИИ 1:16 Это касалось не только OpenAI 3:25 Список OpenAI 4:31 Люди, которые расследовали 6:01 Кто попадает в тюрьму? 7:33 Что это значит для вас Обе стороны Компания Anthropic заявляет, что реальные последствия действий Клода были минимальными, что она проинформировала Белый дом и уведомила каждое участвующее ведомство, и что она временно отключила прямой доступ в интернет для своих внутренних тестов. OpenAI заявляет, что информация, полученная его агентами, уже была общедоступной, что компания уведомила десятки третьих сторон и что уволила трех исследователей за нарушение четких правил обращения с конфиденциальной информацией, а не за выражение опасений. Три исследователя утверждают, что это лишь предлог. Администрация заявляет, что у правительства уже есть необходимые инструменты. Что делать, если вы используете ИИ-агента? Дайте ему одну четкую задачу и укажите, чего он не должен делать. Не передавайте ему свои пароли, данные карты или почтовый ящик, если это действительно не требуется для выполнения задачи. Включите настройку, которая заставляет его запрашивать у вас подтверждение перед отправкой, покупкой или передачей чего-либо. Источники (прочитано 10 и 11 октября 2026 г.) Anthropic, Расследование непреднамеренных действий модели в наших оценках и внутреннем использовании, 9 октября 2026 г.: https://www.anthropic.com/research/in... 6abc, Заявление Департамента полиции Филадельфии по поводу полученной информации, 9 октября 2026 г.: https://6abc.com/post/anthropic-ai-mo... NPR, Уволенные сотрудники OpenAI ставят под сомнение приверженность компании безопасности, 9 октября 2026 г.: https://www.npr.org/2026/10/09/nx-s1-... CNBC, 9 октября 2026 г.: https://www.cnbc.com/2026/10/09/opena... Newsweek, OpenAI предупреждает правительственные агентства США о противоправной деятельности: https://www.newsweek.com/openai-warns... TechTimes, Закон об ответственности агентов ИИ: взломы, осуществляемые агентами-мошенниками, теперь несут уголовную ответственность для руководителей, 2 октября 2026 г.: https://www.techtimes.com/articles/32... Википедия, Кибератаки агентов OpenAI в 2026 году: https://en.wikipedia.org/wiki/2026_Op... Офис сенатора Джоша Хоули, Сенаторы Хоули и Мерфи объявляют о принятии двухпартийного Закона об ответственности агентов ИИ, 1 октября 2026 г.: https://www.hawley.senate.gov/senator... Примечания Каждая цитата на экране показана на отдельной странице, ссылка на которую приведена выше, в том виде, в котором она была опубликована 10 и 11 октября 2026 г. Anthropic не назвала университет, государственное агентство или местное правительство в своем отчете, и мы тоже этого не делаем; видеоматериалы за этими строками являются архивными, а не относятся к этим местам. Карты, петли и диаграммы — это наши собственные иллюстрации того, что описывают источники. По состоянию на 2 октября 2026 г. TechTimes не сообщила о подтвержденном номере законопроекта или комитете по Закону об ответственности агентов ИИ; Это предложение, а не закон. Изображения и звук Закадровый голос — это голос искусственного интеллекта (ElevenLabs), стандартный голос, а не голос реального человека. Видеоматериалы: Mixkit и Pixabay (свободные лицензии). Фотографии Дарио Амодея и Сэма Альтмана: TechCrunch, CC BY 2.0 (https://creativecommons.org/licenses/..., через Wikimedia Commons, обрезанные. Джош Хоули и Крис Мерфи: официальные портреты, общественное достояние, через Wikimedia Commons. Стая на миниатюрах: Pixabay. Полицейский на миниатюрах: Mixkit. Музыка (Mixkit Stock Music Free License): Fragments Of Bangkok, Punctus XII и Xanthos от Eugenio Mininni; Echoes от Andrew Ev; Classical vibes 4 от Grigoriy Nuzhny. Вступительная заставка и звуковые эффекты были созданы для The Output. Часть 1: Вырвавшиеся на свободу ИИ-агенты    • The AI Agents That Got Out   Далее в программе The Output: мы дадим агенту задание, которое он не сможет выполнить, поместим его в запертый ящик и посмотрим, что он попытается сделать. theoutput.show | x.com/theoutput_show | instagram.com/theoutputshow | tiktok.com/@the_output_show