ISTQB CT-AI | 5.1.2 Входные данные: тестирование на предвзятость | Click&Break

Добро пожаловать обратно на Click & Break! В этом видео мы рассмотрим раздел 5.1.2 программы сертификации ISTQB® Certified Tester AI Testing (CT-AI): Тестирование на наличие предвзятости. Предвзятость в системах машинного обучения (MLS) создает системную несправедливость в прогнозах и решениях. Выявление и устранение предвзятости на ранних стадиях имеет решающее значение для обеспечения качества программного обеспечения, справедливости и соответствия требованиям. В этом уроке мы разберем источники предвзятости в системах машинного обучения и основные подходы к тестированию, используемые для их выявления. 📌 Что вы узнаете из этого видео: 1. Источники предвзятости: Предвзятость данных: Дефекты в обучающих наборах данных, такие как нерепрезентативная выборка, исторические искажения или преднамеренное отравление данных. Алгоритмическая предвзятость: Дефекты в алгоритмах, моделях или фреймворках, которые вносят системную несправедливость (например, жесткие пороговые значения решений по чувствительным атрибутам, таким как возраст или кредитный рейтинг). 2. Подходы к тестированию для выявления предвзятости: Анализ рабочих процессов и документации: Проверка рабочего процесса машинного обучения, этапов подготовки данных и документации по набору данных для оценки сбора, аннотирования и репрезентативности популяции. Статический анализ: Изучение скриптов подготовки данных и кода модели для выявления антипаттернов и неправильной обработки конфиденциальных атрибутов. Исследовательский анализ данных (EDA): Использование методов визуализации и кластеризации на обучающих данных для выявления несбалансированных распределений или асимметричных групп по конфиденциальным атрибутам. Динамическое тестирование: Подача известных непредвзятых, репрезентативных наборов данных в обученную модель и оценка результатов прогнозирования на предмет статистически значимых различий между конфиденциальными демографическими группами. Проверка правильности меток: Выявление неправильно помеченных данных, которые приводят к неверным ассоциациям, изученным для конкретных конфиденциальных атрибутов. Анализ неравномерного воздействия: Оценка справедливости в отношении защищенных демографических атрибутов, таких как возраст, пол или раса. 💬 Присоединяйтесь к обсуждению: Какие стратегии использует ваша команда контроля качества для выявления предвзятости в обучающих наборах данных перед развертыванием модели? Поделитесь своим опытом в комментариях ниже! 👍 Вам нравится эта серия? Нажмите кнопку «Нравится», подпишитесь на Click & Break и включите уведомления, чтобы быть в курсе нашего полного курса сертификации ISTQB по тестированию ИИ! #ClickAndBreak #ISTQB #AITesting #TestingForBias #DataBias #AlgorithmicBias #SoftwareTesting #QA #MachineLearning #FairnessInAI