Контекстные графы для интерпретируемых ИИ-агентов, принимающих обоснованные решения — Андреас Кол...

Назначение препарата X правильно в 99% случаев при симптоме Y. В оставшемся 1% случаев, когда это приводит к летальному исходу, статистические рассуждения не помогают. Андреас Коллеггер называет это проверкой референтного класса: прежде чем агент предпримет действие, он должен знать, к какой группе он принадлежит. Контекстные графы дают агентам понимание «почему». Не только знания и инструменты, но и политики, правила и предыдущие решения, объясняющие, почему определенное действие правильно в данном контексте. Представленная в этом докладе структура принятия решений состоит из пяти этапов: формулирование проблемы с учетом причинно-следственных связей и окружения, включение глобальных правил и прошлых прецедентов, проведение анализа рисков, либо действие, либо передача вопроса уполномоченному лицу, и запись всей цепочки рассуждений обратно в граф. Именно этот последний шаг является ключевым. Каждое решение становится прецедентом. Будущие агенты наследуют его. Информация о докладчике: https://x.com/akollegger   / akollegger   https://github.com/akollegger