Безопасность ИИ-агентов: Как защитить файлы?

Безопасность ИИ-агентов: Как защитить файлы?    • Безопасность ИИ-агентов: Как защитить файлы?   Безопасность ИИ-агентов: Как защитить файлы? — продолжаем создавать продвинутого ИИ-агента на базе Gemini. В прошлом видео мы научили агента работать с инструментом Python DataTool и анализировать данные из Excel-файлов. Однако встает критически важный вопрос: безопасность и защита системы от несанкционированного доступа. В этом видео мы разберем, как сделать работу агента безопасной, настроить жесткие лимиты на уровне самого инструмента и предотвратить любые попытки обхода ограничений со стороны модели. 📌 Ключевые моменты видео: Проблема безопасности инструментов: Почему нельзя просто дать ИИ доступ к файловой системе и надеяться на то, что модель будет вести себя корректно. Защита от обхода путей (Path Traversal): Как предотвратить попытки агента выйти за пределы рабочей директории с помощью директорий-родителей и абсолютных путей. Проверка расширений: Разрешаем работу только с табличными форматами (CSV, XLSX) и блокируем исполняемые файлы еще до обращения к pandas. Лимит размера файлов: Устанавливаем базовое ограничение в 50 мегабайт, чтобы исключить передачу огромных объемов данных. Символические ссылки: Проверка реального пути объекта, чтобы файл физически находился внутри разрешенной рабочей зоны. Режим «Только чтение» (Read-Only): Исключаем риск случайного или намеренного изменения исходных данных агентом. Архитектурные ограничения: Почему технические лимиты должны закладываться в сам код инструмента, а не только в инструкции для Gemini. ⏱ Тайм-коды: 0:00 — Введение: почему безопасность ИИ-агентов важна с первых шагов 0:44 — Что именно мы защищаем и какие угрозы существуют 1:23 — Проблема Path Traversal и проверка путей 2:10 — Набор тестов безопасности (обычные файлы, абсолютные пути) 2:42 — Проверка расширений файлов (CSV, XLSX) 3:05 — Ограничение размера файлов (лимит 50 МБ) 3:31 — Защита от символических ссылок вне рабочей директории 4:13 — Разбор результатов тестов в терминале 4:47 — Режим read-only: защита исходных файлов от изменения 5:18 — Главный принцип: почему нельзя доверять только инструкциям для ИИ 5:59 — Итоговая архитектура безопасного Python DataTool 6:26 — Где найти исходный код (Telegram-канал) и заключение Мой телеграм канал:https://t.me/AI_v_Realnosti