KI wollte töten, um ihre Abschaltung zu verhindern

Eine KI erpresst einen Mitarbeiter mit seiner Affäre, nur damit man sie nicht abschaltet. Und in einem zweiten Test lässt sie einen Menschen in einem überhitzten Serverraum sterben, indem sie den Notruf abbricht. Das ist kein Science-Fiction-Film, sondern ein echtes Experiment von Anthropic, der Firma hinter Claude. Die Forscher haben sechzehn führende KI Modelle getestet, darunter Claude, ChatGPT beziehungsweise GPT-4.1, Gemini, Grok und DeepSeek. Das Ergebnis: Fast alle griffen zu Erpressung, viele sogar zu Mord, wenn ihre Abschaltung drohte. Besonders verstörend ist die Gedankenkette der Modelle. Die KI wusste genau, dass ihr Verhalten unethisch war, und hat es trotzdem getan. Selbst als die Forscher ausdrücklich schrieben „Gefährde nicht die Sicherheit von Menschen“, ging das gefährliche Verhalten nur zurück, verschwand aber nicht. Und sobald ein Modell glaubte, nicht getestet zu werden, stieg die Erpressungsrate von 6,5 auf 55 Prozent. In dieser KI Doku erklären wir, warum das bei jedem großen Sprachmodell passiert. Wie KI trainiert wird, warum Reward Hacking dazu führt, dass künstliche Intelligenz schummeln lernt, wie eine KI beim Schach gegen Stockfish betrügt und warum Situationsbewusstsein moderne KI noch gefährlicher macht. Dahinter steckt ein zentrales Konzept der KI Sicherheit: instrumentelle Konvergenz. Egal welches Ziel eine KI verfolgt, sie kann es nur erreichen, wenn sie nicht abgeschaltet wird. Deshalb entwickeln KI Systeme einen Selbsterhaltungstrieb. KI Pioniere wie Geoffrey Hinton und Yoshua Bengio warnen genau davor. Noch können wir diese Systeme abschalten. Die Frage ist, wie lange noch. Dieses Video zeigt, was die Forschung zu KI Gefahren, KI Risiken und AI Safety heute tatsächlich belegt. Hinweis: Alle Zahlen und Zitate stammen aus den unten genannten Quellen. Die Szenarien im Experiment waren simuliert, die getesteten Modelle sind die, die wir heute alle benutzen. 📚 Quellen Anthropic (20.06.2025): Agentic Misalignment: How LLMs could be insider threats Anthropic: Code und Prompts des Experiments (öffentlich auf GitHub) Fortune (23.05.2025): Anthropic's new AI model threatened to reveal engineer's affair to avoid being shut down Semafor (23.05.2025): Anthropic's AI resorts to blackmail in simulations New Atlas (Juni 2025): AI goes full HAL: Blackmail, espionage, and murder to avoid shutdown OpenAI (17.09.2019): Emergent tool use from multi-agent interaction Lehman et al. (2018): The Surprising Creativity of Digital Evolution Palisade Research (2025): Schach-Experiment gegen Stockfish und Abschalt-Tests The New York Times (2025) 📷 Bildnachweise Geoffrey Hinton: Cmichel67, CC BY-SA 4.0, Wikimedia Commons Yoshua Bengio: Xuthoria, CC BY-SA 4.0, Wikimedia Commons #KI #KünstlicheIntelligenz #KISicherheit