Human in the Loop: Der Mensch, der gar nichts entscheidet

„Da schaut noch ein Mensch drüber.“ Der Satz klingt nach Sicherheit – oft bedeutet er das Gegenteil. Was Human in the Loop wirklich heißt. Die Forscherin Madeleine Clare Elish nennt es die moralische Knautschzone: Die Knautschzone im Auto verformt sich und schützt dadurch den Menschen. In automatisierten Systemen ist es umgekehrt – dort schützt der Mensch das System, indem er die Verantwortung aufnimmt. Elish nennt ihn einen Haftungsschwamm. Menschen winken nicht aus Faulheit durch. Wer hundert Vorschläge am Tag bestätigen soll, von denen 98 richtig sind, findet die zwei falschen nicht. Aufsichtsbehörden achten deshalb künftig auf zwei Zahlen: die Widerspruchsquote und die Prüfdauer. Wer 99,8 Prozent aller Vorschläge bestätigt, beweist keine gute KI. Artikel 14 der EU-KI-Verordnung verlangt wirksame Aufsicht: verstehen, überschreiben, stoppen können. Und der Europäische Gerichtshof hat 2023 zum Schufa-Score entschieden, dass es nicht zählt, wer unterschreibt – sondern wovon die Entscheidung maßgeblich abhängt. Drei Fragen, an denen du echte Aufsicht erkennst: – Hat der Mensch die Information? – Hat er die Zeit? – Hat er die Befugnis? Kapitel 00:00 Einstieg 01:02 Wo es wirklich funktioniert 02:58 Woher der Begriff kommt 03:21 Die moralische Knautschzone 05:02 Warum Menschen durchwinken 06:48 Was das Gesetz verlangt 08:58 Woran du echte Aufsicht erkennst 09:29 Was du mitnimmst 📚 Meine Onlinekurse: https://kurse.schieb.de?utm_campaign=YT 📩 Superkraft KI Newsletter, kostenlos: https://funnel.superkraft-ki.com/eboo... 🎯 Superkraft KI Fokus: https://kurse.schieb.de/pages/fokus?u... Quellen • Madeleine Clare Elish, „Moral Crumple Zones“, Data & Society, 2019 https://datasociety.net/library/moral... • CNN Business zum Unfall in Tempe, Arizona, 2023-07-29 https://www.cnn.com/2023/07/29/busine... • EU-KI-Verordnung, Artikel 14, 2024 https://artificialintelligenceact.eu/... • VDE, Erläuterung zu Artikel 14, 2026-09 https://www.vde.com/topics-de/kuenstl... • Dr. Datenschutz, 2026-09-10 https://www.dr-datenschutz.de/art-22-... • Legalithm, Umsetzungsleitfaden zu Artikel 14, 2026-02 https://www.legalithm.com/en/blog/ai-... • EuGH, Urteil vom 7.12.2023, C-634/21 (SCHUFA Holding), 2023-12-07 https://www.thomashelbing.com/de/wiss... • PRAIM-Studie, via Medical Tribune, 2026-06 https://www.medical-tribune.de/medizi... • MASAI-Studie, Lancet Oncology, via Medscape, 2023-08 https://deutsch.medscape.com/artikela... • OMR, Überblick Human Oversight, 2026-06 https://omr.com/de/reviews/contenthub... Ich bin Jörg Schieb. Hier ordne ich ein, was bei der Künstlichen Intelligenz wirklich passiert — ohne Panik und ohne Werbeversprechen. #humanintheloop #kiverantwortung #aiact #künstlicheintelligenz #automatisierteentscheidung #schufascore #jörgschieb #superkraftki