Folge #8 — Die Firma als Lernsystem

Die meisten Unternehmen sagen, sie lernen aus ihren Fehlern. Gemessen hat es noch niemand. Christoph Maichel und Josef R. Schneider haben nach der Erhebung gesucht, wie viele Firmen ihre eigene KI-Fehlerrate kennen — und keine gefunden. Weder bei Eurostat noch beim Statistischen Bundesamt noch in einer begutachteten Unternehmensbefragung. Was es stattdessen gibt: mehr dokumentierte KI-Vorfälle, mehr Responsible-AI-Richtlinien, mehr Governance-Rollen — und keinen Beleg, dass daraus Lernen wird. Dazu ein Befund, der gegen die eigene These spricht: Selbst wenn die Verantwortlichen namentlich bekannt sind, korreliert das nicht mit besserer Rechenschaft. Beide erzählen einen eigenen KI-Fehler aus dieser Woche. Der gemeinsame Nenner: Der Statusbericht war grün. Gelernt hat das System erst, als ein Mensch hingeschaut hat. Das Werkzeug am Ende: ein Fehler-Register mit vier Spalten. Die zweite ist die Diagnose — wer hat den Fehler gefunden, Mensch oder System? KAPITEL 00:00 Intro 00:09 Cold Open: Kannst Du das belegen? 00:52 Es gibt keine einzige Erhebung 01:28 Christophs Bundesbank-Umfrage 02:00 Die Vorfallszahlen steigen 02:35 Mehr Governance — und trotzdem mehr Vorfälle 03:13 Formalisieren ist nicht Lernen 03:43 Qualitätshandbücher, die keiner liest 04:21 Der Befund gegen die eigene These 05:09 Sichtbarkeit allein erzeugt kein Lernen 05:34 Kein Beinahe-Unfall-Meldesystem für KI 06:35 EU-KI-Verordnung, Artikel 73 07:47 Der Beleg aus der Medizin 08:40 Warum „halbierte Sterblichkeit" falsch ist 09:32 Woran erkennst Du, dass die Firma gelernt hat? 11:03 Aufruf: Nennt uns Eure KI-Fehler 11:26 Josefs banaler Fehler: MCP statt Craft 12:44 Christophs gescheitertes KI-Projekt 14:36 Wenn Autorität ungeprüft übernommen wird 16:16 Der Statusbericht war grün 18:15 Regel ins System, Urteil in den Menschen 19:06 Die Evaluationslücke 20:38 Just Culture: der Dämpfer aus der Luftfahrt 22:46 Modelle gegeneinander prüfen lassen 23:57 Zwei Welten: Coding und Regulatorik 26:57 10.000 Agenten — was machst Du damit? 27:43 Prüfsysteme über dem System 30:21 Wie hoch ist Deine Fehlerrate? 31:42 Cliffhanger: Folge 9 — die Berufseinsteiger 10xCEO — der Podcast über KI als Chefsache. Christoph Maichel & Josef R. Schneider