Перейти к содержимому

Почему ИИ отказывается помогать тем, кого атакуют?

Progressive AI

0:00 / 0:00

Почему ИИ отказывается помогать тем, кого атакуют?

273 просмотра · 5 дн. назад
Progressive AI
26 подписчиков
273 просмотра · 5 дн. назад
17 октября 2026 года OpenCode, разработчик программного обеспечения с открытым исходным кодом для искусственного интеллекта, сообщил о нарушении безопасности: кто-то получил несанкционированный доступ к старой системе, которую компания закрывала, и ключи ИИ, сохраненные некоторыми пользователями в платной консоли OpenCode, могли быть скомпрометированы (по данным компании, это произошло среди 1,4% пользователей консоли). На следующий день соучредитель Дакс Раад заявил, что их системы подвергались непрерывным атакам в течение 48 часов, и что модели, используемые его командой для исследования, «проделали довольно много работы, а затем начали отказываться». Так почему же ИИ отталкивает людей, подвергшихся атаке? И кто с кем на самом деле борется? Шаг за шагом, без необходимости получения степени в области кибербезопасности. В этом видео: что такое ключ API и чьи ключи могли быть скомпрометированы; как Anthropic и OpenAI помогли; головоломка «дистилляции»; дилемма защитного барьера и Daybreak Blue; июльский случай Hugging Face; и три привычки для защиты ваших ключей. РАЗДЕЛЫ 0:00 Взлом, а затем ИИ начал отказывать 0:44 OpenCode, ключи API и то, что могло быть раскрыто 1:57 Кто пострадал, кто помог, загадка «дистилляции» 3:14 ИИ против ИИ: отказы и Daybreak Blue 4:31 Не в первый раз: Hugging Face в июле 5:50 Кто с кем воюет? Три привычки для ваших ключей ИСТОЧНИКИ OpenCode на X, 17 окт. (взлом, ссылка на утечку, 1,4% пользователей Console, электронные письма): https://x.com/opencode/status/2111519... Электронное письмо OpenCode через dev.to (старая система, ключи, которые «могли быть раскрыты»): https://dev.to/gabrielanhaia/opencode... Dax Raad на X, 17-18 окт. (Console, а не сам OpenCode; 48 часов; отказы; Daybreak) Синий): https://x.com/thdxr/status/2111572618... https://x.com/thdxr/status/2111790511... https://x.com/thdxr/status/2111831348... Лидия Халли (Anthropic) на X, 17 окт (отозванные ключи Клода): https://x.com/lydiahallie/status/2111... Тибо Соттио (OpenAI, возглавляет Codex) на X, 19 окт (возврат кредитов): https://x.com/thsottiaux/status/21120... The Hacker News, 19 Октябрь (обзор, сообщения пользователей о нарушениях): https://thehackernews.com/2026/10/ope... Anthropic об атаках с использованием дистилляции, 12 октября («скрытые кампании промышленного масштаба»): https://www.anthropic.com/research/di... PlayCISO, 18 октября (теория аналитиков): https://playciso.com/blog/opencode-co... Справка OpenAI о Daybreak (Daybreak Blue, проверка личности, неавтоматическое одобрение): https://help.openai.com/en/articles/2... Hugging Face, 16 июля (вторжение агента, заблокированные запросы, открытый вес) модель): https://huggingface.co/blog/security-... OpenAI, 21 июля (собственные модели в рамках внутреннего тестирования; Hugging Face добавлен в программу): https://openai.com/index/hugging-face... Эндрю Карран и Дэвид Сакс на X, 18 октября: https://x.com/AndrewCurran_/status/21... https://x.com/DavidSacks/status/21118... Безопасность ключей API от OpenAI, Anthropic и Google (три компании) привычки): https://help.openai.com/en/articles/5... https://support.claude.com/en/article... https://docs.cloud.google.com/docs/au... Цифры и формулировка в видео: «Возможно, были раскрыты» — это формулировка OpenCode; они не сказали, были ли украдены ключи и сколько. 1,4% — это пользователи консоли, а не все пользователи OpenCode. Ключи, используемые только на вашем собственном компьютере, не пострадали, согласно OpenCode. 48 часов атаки и использование злоумышленниками агентов — это описание соучредителя; никаких доказательств о злоумышленниках опубликовано не было, и никто не связал атаку с кем-либо. «Сотни долларов или больше» — это сообщения самих пользователей. OpenAI подтвердил возврат средств, а Anthropic отозвала ключи; мы не нашли никакой публичной информации о возврате средств от Anthropic или Google. OpenCode не объяснил свою связь с дистилляцией; идея о краже ключей — это всего лишь теория. «Пять дней спустя»: Hugging Face раскрыл информацию 16 июля, OpenAI — 21 июля. КАК БЫЛО СОЗДАНО ЭТО ВИДЕО Этот канал использует Клода, ИИ от Anthropic, для создания своих видео (исследования, написание скриптов и код анимации). И Anthropic является частью этой истории: ключи Клода были среди тех, которые могли быть раскрыты, и Anthropic отозвала те, которые, по ее мнению, были затронуты. Модели, которые отказались, не были названы, поэтому мы не стали гадать. Мы указали автора каждого заявления. Анимация выполнена с помощью кода, каждая сцена синхронизирована с закадровым текстом. Голос в озвучке — ...