ИИ заменит аналитика SOC?! | Александр Кельчин

AI security на практике: свой SIEM с ИИ, AI SOC, защита LLM от prompt injection, автопентест на агентах и что вайбкодинг делает с рынком безопасности. Гость — Александр Кельчин, CTO/CISO Medici Lab. Александр рассказывает, как его команда вынесла обработку событий на хосты, дообучала Qwen под правила корреляции и добилась 96–97% корректных ответов, почему вторая нейросеть-«охранник» тоже уязвима к prompt injection, как устроены CaMeL и Dual LLM и почему ИИ-агенты в пентесте пока не заменяют специалиста. А ещё — XBOW в багбаунти, автопатчинг пакетов для банков с GISEC и сколько на самом деле стоит проверка кода, который написал ИИ. Гость: Александр Кельчин — CTO/CISO Medici Lab Ведущий: Сергей Зыбнев — основатель проекта Похек, Похек AI, AI Security R&D 00:00 Хайлайты выпуска 00:22 Знакомство: Александр Кельчин, Medici Lab 02:45 «ИИ — не твой второй мозг» 04:16 Чем сейчас занимается Medici Lab 05:15 Свой SIEM с ИИ: обработка прямо на хостах 07:28 Агент на 60 КБ и защита правил от реверса 09:20 AI SOC: почему 60% на L2 — это плохо 11:53 Qwen, fine-tuning и маленькие модели против больших 16:23 Как продавать безопасность, когда ты маленький 18:48 Как защищать ИИ: guardrails, CaMeL, Dual LLM 24:05 Как искать бэкдоры в весах моделей 25:59 LLM firewall или DLP? 27:51 Автопентест: 20 лет эволюции 29:10 EASM, VM, CTEM — в чём разница 30:48 ИИ-агенты, MCP и Burp 32:33 Твой агент клал инфру? 34:15 Вайбкодеры против безопасников 35:33 Почему безопасники подорожают вдвое 38:05 Как Александр строил свой автопентест 41:17 ИИ в анализе кода и зависимостей 43:12 XBOW и ИИ в багбаунти 46:45 Легаси, рефакторинг и ИИ 49:09 GISEC в Дубае: автопатчинг для банков 51:58 Аудит за $200 и цена пентеста 54:24 Кто размечает данные для ИИ 55:45 «Если все станут героями…» 56:36 Финал и ссылки Каналы: Похек — https://t.me/poxek Похек AI — https://t.me/poxek_ai Medici Lab — https://t.me/+u9B-NUnntJxlMDVi Материалы из выпуска: Sentinel — https://sentinel-architecture.com/ ExCyTIn-Bench: LLM-агенты в расследовании инцидентов — https://arxiv.org/abs/2507.14201 CaMeL (Google): Defeating Prompt Injections by Design — https://arxiv.org/abs/2503.18813 Operationalizing CaMeL — https://arxiv.org/abs/2505.22852 gpt-oss-safeguard (OpenAI) — https://github.com/openai/gpt-oss-saf... DFBScanner: поиск бэкдоров в моделях — https://arxiv.org/abs/2605.18907 XSpider — https://ru.wikipedia.org/wiki/XSpider Burp Suite MCP Server — https://github.com/PortSwigger/mcp-se... Strix — https://github.com/usestrix/strix XBOW на HackerOne — https://xbow.com/blog/xbow-on-hackero... GISEC Global — https://gisec.ae/ #кибербезопасность #AIsecurity #пентест #SOC #LLM #подкаст