Безопасность ИИ-агентов и фатальные ошибки JSON.parse | dev.to за 24.10

Разбираем песочницу OpenShell от NVIDIA для защиты ИИ-агентов. Смотрим на тесты безопасности 25 пакетных менеджеров и объясняем, как JavaScript незаметно портит JSON. Главы: 0:00 О чём выпуск 0:15 NVIDIA OpenShell: песочницы для ИИ-агентов на уровне ядра 0:58 Только 2 из 25 пакетных менеджеров проверяют хеши по умолчанию 1:39 3 способа, как JSON.parse в JavaScript незаметно портит данные 2:19 Взлом фаервола WARDEN для ИИ-агентов: 14 успешных атак из 17 2:59 Учет токенов LLM на уровне API-шлюза: как считать деньги 3:35 Локальный ИИ-агент Unpile удалил 1242 отложенные статьи 4:23 Итоги Статьи: 1. Agents should never hold your API keys. NVIDIA just open-sourced the runtime that enforces it — Sam LABBE https://dev.to/slabb/agents-should-never-h... 2. Most Package Managers Won't Stop a Tampered Download by Default — Dhruv Agrawal https://dev.to/dhruv1206/most-package-mana... 3. 🔢 The JSON Numbers JavaScript Quietly Corrupts — Alexi Taylor 🐶 https://dev.to/alexi_be3/the-json-numbers-... 4. We attacked our own MCP firewall with its source code open. 14 of 17 attacks got through; now 2 of 23 do — Alex https://dev.to/alexar76/we-attacked-our-ow... 5. Who Is Paying for This? Token Metering at the LLM Gateway — Manoj Kumar Kagitha https://dev.to/manojkagitha/who-is-paying-... 6. I let an open model delete 1,242 of my saved articles. On purpose. I feel lighter. — Sarvar Nadaf https://dev.to/sarvar_04/i-let-an-open-mod... Пересказ статей с dev.to своими словами: авторы и ссылки на оригиналы выше. Ведущий и голос сгенерированы ИИ. Канал не связан с dev.to. #devto #программирование #новостиIT