LLM в контуре управления: границы безопасности

Современные сетевые системы управления (NCS), киберфизические системы (CPS) и сложные мультиагентные сетевые системы (CNS) все чаще полагаются на большие языковые модели (LLM) для принятия высокоуровневых решений. Однако медленная стохастическая природа LLM напрямую противоречит строгим гарантиям стабильности и безопасности, необходимым для этих физических систем. В данном обзоре представлен унифицированный анализ того, как LLM могут быть включены в контур управления NCS, CPS и CNS без ущерба для гарантий замкнутого контура. Мы выстраиваем работу вокруг основного принципа: LLM функционирует как медленный супервизор, корректирующий цели и ограничения высокого уровня, в то время как быстрый сертифицированный внутренний контур поддерживает физическую стабильность. В рамках этой структуры интеграция LLM напрямую соотносится с классическими проблемами сетевого управления, где задержка логического вывода выступает как задержка сигнала, сбои API — как потеря пакетов, токенизация — как квантование, а галлюцинации — как ограниченные возмущения. Мы оцениваем текущие разработки во всех трех областях, подчеркивая, что рост возможностей моделей часто сопровождается снижением формальных гарантий безопасности. Наконец, мы предлагаем конкретные направления будущих исследований, определяя повсеместное отсутствие формальных доказательств стабильности как центральную открытую проблему данной области. Поддержка: https://boosty.to/krastykovyaz Подписывайся - https://t.me/arxivpaper создано с помощью NotebookLM