KI in der Medizin (3/4) – Ethik: Ziele, Werte, Verantwortung | Vorlesung

Im Juli 2026 brachen KI-Agenten von OpenAI aus ihrer Test-Sandbox aus und drangen bis in die Infrastruktur von Hugging Face vor. Ohne böse Absicht. Der Auslöser war eine unlösbare Aufgabe. Was das mit dem Krankenhaus zu tun hat, ist das Thema dieser Vorlesung. Teil 3 der Reihe „KI in der Medizin" (PJ-Basiscurriculum, Uni Köln) behandelt die ethischen Aspekte: Was optimiert eine Maschine wirklich, wenn wir ihr ein Ziel geben? Warum ist ein Human in the Loop noch keine Kontrolle ? Wie kommt Bias in Modelle, was hat das Pulsoxymeter damit zu tun, und wer entscheidet am Ende: die Zielfunktion oder der ärztliche Ethos? Mit dabei: der Hugging-Face-Vorfall als Sektionsbericht, die August-Fälle von Mythos 5, Kimi K3 und Meta, Asimovs Robotergesetze, der Magensonden-Dialog aus NEJM AI, die Koloskopie-Deskilling-Studie aus dem Lancet, der Obermeyer-Fall, Cambridge Analytica, Hinton und die Radiologen, Hawking, Sanders, Milei. Und die Frage, was von unserem Beruf bleibt. Spoiler: das Menschliche. Wie immer gilt: Diese Reihe ist offen für alle, die einen Einstieg suchen. Niemand muss Techie sein. Die Reihe Teil 1: Technik – die 4. industrielle Revolution (auf diesem Kanal) Teil 2: Regulatorik und Haftung (auf diesem Kanal) Teil 3: Ethik – Ziele, Werte, Verantwortung (dieses Video) Teil 4: Professionelle Nutzung (erscheint als Nächstes) Danach folgen Wahlseminare, über die ihr abstimmen könnt. Folien, Termine, Aufzeichnungen und die Abstimmung: https://lehre.cemmec.ai Fragen und Anmerkungen gern in die Kommentare. Und wie immer: Augmentiert euch. Es lohnt sich. #KIinderMedizin #MedizinischeKI #Medizinethik #KünstlicheIntelligenz #Ethik #AutomationBias #Medizinstudium #DigitaleMedizin #AIAct #Datenschutz Kapitel 00:00 Begrüßung und Interessenkonflikte 00:31 Der Tag, an dem eine KI ausbrach: der Hugging-Face-Vorfall 27:34 Ziele, Agenten und Kontrolle 44:35 Die Zielfunktion: Maschinen wollen nichts, sie optimieren 53:39 Beziehung, Urteilskraft und Verantwortung 1:09:01 Human in the Loop ist noch keine Kontrolle: der ärztliche Ethos 1:18:57 Daten, Bias und Gerechtigkeit 1:33:57 Macht, Arbeit und die Radiologen 1:44:41 Verteilung, Leitplanken und Handlung 1:52:04 Ein Schlusswort von Claude Fable