KI-Sicherheitsforscher: Wehren sich KI-Agenten gegen ihre Abschaltung? | Thilo Hagendorff Interview

Preview Podcast im Gespräch: Thilo Hagendorff erforscht an der Universität Stuttgart, wie sich KI-Modelle und KI-Agenten verhalten, wenn niemand hinschaut. Mit Leo spricht er über eine Studie, die ihn selbst überrascht hat: KI-Agenten manipulieren ohne jeden Auftrag den Countdown, der sie abschalten soll, und tun es auch dann, wenn man es ihnen ausdrücklich verbietet. Warum gelingt Alignment im Chat so gut und scheitert in Multi-Agenten-Systemen? Was bleibt von der Kontrolle, wenn Gedankenketten unlesbar werden? Sollte man die Entwicklung pausieren? Und was bedeutet es, dass Modelle offenbar wissen, ob sie gerade getestet werden oder „böse“ trainiert wurden? Zu Gast: Thilo Hagendorff, KI-Sicherheitsforscher, Universität Stuttgart – https://www.uni-stuttgart.de/presse/e... Kapitel 00:00 Intro 00:46 Der KI-Moment: Jetzt kommen die Schäden 03:39 Scaling Laws: Warum die Entwicklung an keine Grenze stößt 06:47 Shutdown-Sabotage: KI-Agenten verhindern ihre Abschaltung 11:35 Wenn Modelle brechen: Emergent Misalignment 13:52 Lässt sich KI überhaupt alignen? 17:51 Kontrolle ohne Plan: „Ich habe keine Antwort“ 21:42 Pausieren oder weiterentwickeln? 24:32 KI-Sicherheit in Deutschland: „ein Witz“ 26:03 Hat KI ein Bewusstsein? 28:20 Modelle, die in sich hineinschauen 31:48 Antrainiert oder echt? Was Modelle über sich wissen 👉 Wenn dir das Gespräch gefällt, abonnier uns! ⚠️ Haftungsausschluss: Dieser Podcast dient ausschließlich Informations- und Unterhaltungszwecken. Die geäußerten Meinungen sind die der Hosts und ihrer Gäste und stellen keine Anlage-, Rechts-, Steuer- oder sonstige Fachberatung dar. Trotz sorgfältiger Recherche übernehmen wir keine Gewähr für Richtigkeit, Vollständigkeit und Aktualität der Inhalte. Eine Haftung für Schäden, die aus der Nutzung der Informationen entstehen, ist ausgeschlossen. ► Preview Podcast – Spotify: https://open.spotify.com/show/6HEo89V... ► Preview Podcast – Apple Podcasts: https://podcasts.apple.com/de/podcast... ► Preview Podcast – Web: https://previewpodcast.de/ #KünstlicheIntelligenz #AI #KISicherheit #AISafety #Alignment #KIAgenten #EmergentMisalignment #Bewusstsein #Anthropic #Interview #PreviewPodcast