Модуль 10: Мониторинг и обеспечение соответствия

Модуль 10 посвящен анализу доказательств, позволяющих определить, продолжают ли работать механизмы управления ИИ после внедрения. Разработка механизмов управления необходима, но недостаточна. Поведение ИИ может меняться, данные могут отклоняться от нормы, поставщики могут обновлять свои услуги, пользователи могут вести себя по-разному, а инциденты или жалобы могут выявлять пробелы, которые не были видны на этапе проектирования. Мониторинг обеспечивает постоянный мониторинг производительности системы и механизмов управления. Обеспечение качества добавляет структурированную проверку достоверности и достаточности этих сигналов, механизмов управления и записей. Вместе они обеспечивают необходимую обратную связь для сохранения эффективности системы управления ИИ по мере ее развития. Модуль охватывает операционные показатели, отклонение моделей и данных от нормы, сигналы справедливости и безопасности, инциденты и жалобы, журналы аудита, хранение доказательств и панели управления. Практическим результатом является спецификация панели управления, которая преобразует необработанные данные мониторинга в решения и действия по управлению.