Разведка систем ИИ: основы | Путь безопасности ИИ | Прохождение TryHackMe

В этом видео мы погрузимся в комнату TryHackMe для разведки систем ИИ и рассмотрим, как специалисты по безопасности идентифицируют, идентифицируют и перечисляют инфраструктуру ИИ и машинного обучения. Узнайте, как злоумышленники и защитники анализируют системы ИИ, обнаруживают уязвимые сервисы, составляют карты поверхностей атаки ИИ и понимают риски, связанные с незащищенными развертываниями ИИ. Мы рассмотрим ключевые концепции безопасности ИИ, включая разведку ИИ, инфраструктуру машинного обучения, фреймворки для обслуживания моделей, MLflow, TensorFlow Serving, NVIDIA Triton Inference Server, Ollama, vLLM, Kubeflow, Ray, векторные базы данных, RAG (Retrieval-Augmented Generation), реестры моделей и составление карт поверхностей атаки ИИ. 🔍 Темы, рассматриваемые в статье: Введение в разведку систем ИИ Основы ИИ и машинного обучения Моделирование угроз против разведки ИИ Обнаружение сервисов ИИ с помощью Nmap Компоненты и архитектура инфраструктуры ИИ Перечисление серверов вывода NVIDIA Triton Анализ TensorFlow Serving и TorchServe Разведка с помощью Ollama и vLLM Перечисление серверов отслеживания MLflow Обнаружение Kubeflow и Ray Dashboard Векторные базы данных (Qdrant, Weaviate, Milvus, Chroma) Риски безопасности Jupyter Notebook Методы идентификации сервисов ИИ Анализ HTTP-заголовков и JSON-ответов Идентификация gRPC Извлечение метаданных из API ИИ Картирование поверхностей атаки ИИ Неправильные настройки безопасности ИИ Тактика разведки MITRE ATT&CK Защитное обнаружение и мониторинг 🔗 TryHackMe Комната: https://tryhackme.com/room/aisystemre... ⏱️ ВРЕМЕННЫЕ МЕТКИ ВИДЕО 00:00 – Введение 00:26 – Что такое разведка с помощью ИИ? 01:35 – Разведка против моделирования угроз 02:00 – Сценарий и цели TryHackMe 02:03 – Терминология безопасности ИИ 02:03 – Искусственный интеллект (ИИ) 02:24 – Машинное обучение (МО) 02:39 – Модели машинного обучения 03:09 – Вывод и обслуживание моделей ИИ 03:23 – Объяснение разведки с помощью ИИ 03:45 – Традиционная разведка против разведки с помощью ИИ 04:30 – Почему важна разведка с помощью ИИ 05:02 – Поверхность атаки инфраструктуры ИИ 05:20 – Компоненты инфраструктуры ИИ 05:45 – Обслуживание моделей и конечные точки вывода 06:08 – Сервер вывода NVIDIA Triton 06:31 – Обслуживание TensorFlow 06:45 – TorchServe 07:07 – Ollama 07:42 – vLLM и инфраструктура LLM 08:20 – HTTP против gRPC связи 08:53 – Отслеживание экспериментов MLflow 09:25 – Kubeflow и оркестровка ИИ 09:38 – Распределенная вычислительная платформа Ray 10:05 – Векторные базы данных и встраивания 10:43 – RAG (генерация с расширенным поиском) 11:00 – Qdrant / Разведка векторных баз данных 11:23 – Weaviate и перечисление метаданных 11:24 – Milvus и gRPC 11:31 – Chroma и реестры моделей 11:42 – Разведка Jupyter Notebook 11:56 – Объектное хранилище MinIO 12:05 – Prometheus и портирование инфраструктуры ИИ 12:28 – Задание TryHackMe 1: Обнаружение сервисов ИИ 12:50 – Сканирование Nmap и перечисление портов 13:06 – Идентификация открытых сервисов ИИ 13:40 – Обнаружение портов MLflow 14:17 – Задание 3: Идентификация сервисов ИИ по отпечаткам 14:28 – Почему обнаружения сервисов Nmap недостаточно 14:53 – Методы идентификации сервисов ИИ по отпечаткам 15:20 – Идентификация заголовков HTTP 15:36 – Идентификация NVIDIA Triton по отпечаткам 16:00 – Идентификация ответов JSON 16:45 – Подписи ответов API 17:04 – Идентификация сообщений об ошибках 17:27 – Идентификация gRPC 18:00 – Перечисление gRPCurl 18:23 – Задание 4: Перечисление систем ИИ 18:36 – Перечисление MLflow 19:20 – Метаданные сервисов вывода 19:27 – Перечисление векторных баз данных 19:33 – Перечисление REST API MLflow 20:40 – Зарегистрированные модели и артефакты 21:18 – Обнаружение конфиденциальной информации 21:42 – Перечисление блокнотов Jupyter 22:02 – Извлечение секретов из блокнотов 22:31 – Составление карты поверхности атаки ИИ 23:00 – Неправильная конфигурация ИИ и риски в цепочке поставок 23:20 – Раскрытые токены «обнимающегося лица» 23:43 – Разведывательная деятельность и MITRE ATT&CK 24:06 – Оборонительная разведка и обнаружение ИИ 24:40 – Выявление шаблонов использования инструментов 25:33 – Обеспечение безопасности MLflow и инфраструктуры ИИ 25:42 – Включение многофакторной аутентификации как быстрое решение для повышения безопасности 25:54 – Заключение 🎯 Что вы узнаете: Как идентифицировать сервисы ИИ и машинного обучения, работающие в сети Распространенные порты, используемые ИИ Инфраструктура Как злоумышленники обнаруживают уязвимые системы ИИ Методологии разведки, специфичные для ИИ Риски безопасности, связанные с конвейерами машинного обучения Лучшие практики обеспечения безопасности сред ИИ 📚 Комната TryHackMe: Разведка систем ИИ 💡 Независимо от того, изучаете ли вы кибербезопасность, этичный хакинг, безопасность ИИ, тестирование на проникновение, Red Teaming, Blue Teaming или безопасность машинного обучения, это пошаговое руководство поможет вам понять, как обнаруживаются и оцениваются современные среды ИИ. #TryHackMe #AISecurity #Cyb...