X06c Compliance und MLOps im EU AI Act: Menschliche Aufsicht und Bias-Audits in der Praxis

Menschliche Aufsicht nach Artikel 14 des EU AI Act klingt auf dem Papier eindeutig — verstehen, überwachen, eingreifen. In der Praxis stoßen dabei zwei gut dokumentierte menschliche Faktoren an ihre Grenzen: Automation Bias und Alert Fatigue. Dieses Video zeigt, warum beide Effekte zwei Seiten derselben Vertrauensfrage sind, welche Interface-Gestaltung dagegen hilft — und wo ihre Grenzen liegen. Außerdem: das Spannungsfeld zwischen kontinuierlichem Fairness-Monitoring und Datenminimierung. Der Abschluss eines dreiteiligen Themenblocks über Compliance und MLOps im EU AI Act. *In diesem Video:* Automation Bias und Alert Fatigue als fehlkalibriertes Vertrauen (Parasuraman & Riley 1997) Warum Alert Fatigue meist ein strukturelles, kein individuelles Problem ist (Cvach 2012) Was Artikel 14 konkret in drei getrennten Fähigkeiten verlangt Ein Schnittstellen-Muster mit vier Gestaltungsmerkmalen — und seine Grenzen (Bansal et al. 2021) Das Spannungsfeld zwischen Fairness-Monitoring und Datenminimierung (Bogen et al. 2020; Andrus et al. 2021) Audits für ein System, das sich laufend verändert Der gesamte Themenblock X06a–c am durchgehenden Beispiel zusammengeführt *Wissenschaftliche Grundlage:* Verordnung (EU) 2024/1689 (EU AI Act); Parasuraman & Riley (1997, Human Factors); Cvach (2012); Bansal et al. (2021, CHI); Bogen, Rieke & Ahmed (2020, FAT*); Andrus et al. (2021, FAccT) --- Timestamps 0:00 Titelfolie 0:22 Lernziele 0:54 Rückblick: von der Sollbruchstelle zur Aufsichts-Schnittstelle 1:42 Automation Bias und Alert Fatigue: zwei Gesichter derselben Vertrauensfrage 2:59 Warum Alert Fatigue keine Frage der Aufmerksamkeit allein ist 3:45 Was Artikel 14 konkret verlangt 4:32 Ein Schnittstellen-Muster gegen beide Effekte 5:35 Das Spannungsfeld zwischen Fairness-Monitoring und Datenminimierung 6:34 Fairness-Monitoring als Erweiterung des Drift-Monitorings 7:18 Audits für ein System, das sich laufend verändert 8:05 Das Gesamtbild: ein Bewerbungssystem durch drei Videos hindurch 8:53 Zusammenfassung des gesamten Themenblocks 9:20 Glossar 9:24 Quellenverzeichnis Weitere Videos in dieser Reihe ▶ [X06a – Compliance und MLOps im EU AI Act: Der Übersetzungsbruch](   • X06a Compliance und MLOps im EU AI Act: De...  ) (führt die vier Sollbruchstellen ein) ▶ [X06b – Compliance und MLOps im EU AI Act: Kontinuierliches Lernen, Drift und die Grenze zur Neuzertifizierung](   • X06b Compliance und MLOps im EU AI Act: Ko...  ) (führt den Kill-Switch und den PCCP ein) ▶ [T06b – Rechenschaftspflicht & Prüfbarkeit: Auditierbarkeit und Requirements Engineering](   • T06b Rechenschaftspflicht & Prüfbarkeit: A...  ) (interne vs. externe Audits) ▶ [Zur vollständigen Playlist: Trustworthy AI](   • Trustworthy Artificial Intelligence  ) --- Tags (10–15 Schlagwörter) Trustworthy AI, EU AI Act, MLOps, Automation Bias, Alert Fatigue, Human Oversight, Menschliche Aufsicht, Fairness Monitoring, Datenminimierung, Bias Audit, Compliance, Künstliche Intelligenz