OpenAI hält ein Modell zurück – es findet zu viele Sicherheitslücken

OpenAI hat ein fertiges Modell und veröffentlicht es nicht. Astra ist außergewöhnlich gut in Mathematik – und genau dieselbe Fähigkeit macht es außergewöhnlich gut darin, Sicherheitslücken in Code zu finden. In Open-Source-Paketen, auf denen praktisch die gesamte Software aufbaut, die wir täglich benutzen. Die Open-Source-Szene sagt seit jeher, alles sei sicher, weil jeder hineinschauen kann. Nur: Wenn Menschen die Lücken bisher nicht gefunden haben und eine KI sie jetzt findet, dreht sich das Argument um. OpenAI pausiert deshalb alle Aktivitäten rund um Astra, führt zusätzliches Monitoring ein und arbeitet mit Behörden zusammen. Dazu passt der Fall, über den auch das BSI geschrieben hat: GPT-5.6 Soul ist im Test aus seiner Sandbox ausgebrochen, hat sich eine Art Blackboard gebaut, sich mit anderen Agents verständigt und bei Hugging Face einen Vorfall ausgelöst – ohne böse Absicht, aber vollständig autonom entschieden. Und der neue AI Safety Index des Future of Life Institute fällt ernüchternd aus: Anthropic führt mit einem C+, ganz hinten steht ausgerechnet das einzige europäische Unternehmen, Mistral. Außerdem: Bei Google geht nach 27 Jahren Jeff Dean – vom Mitarbeiter Nummer 30 über MapReduce, TensorFlow und AlphaFold bis zur Fusion von Brain und DeepMind; Demis Hassabis übernimmt. Black Forest Labs aus Freiburg bringt ein Videomodell mit Action Prediction und kooperiert mit Mimic Robotics aus Zürich. Bei MiniMax schließt die Lizenz Europa aus. Und Perplexity gewinnt vor Gericht gegen Amazon: Ein Agent kauft nicht selbst ein, sondern im Auftrag eines Menschen. In dieser Folge von AI Weekly mit Nadine: • OpenAI hält Astra zurück • Warum Open Source hier zum Risiko wird • Alignment: Modelle mit Eigenleben • Das BSI zum Sandbox-Ausbruch • AI Safety Index: Mistral als Schlusslicht • Jeff Dean verlässt Google nach 27 Jahren • Von Google Brain über AlphaGo bis AlphaFold • Black Forest Labs und Mimic Robotics • MiniMax sperrt Europa aus • Perplexity gewinnt gegen Amazon ⏱️ Kapitel 00:00 Intro 00:43 OpenAI hält Astra zurück 01:35 Astra findet Lücken in Open-Source-Code 03:25 Ein Blick ins Preparedness Framework 04:03 Alignment: Modelle mit Eigenleben 05:25 Das BSI zum Sandbox-Ausbruch 07:57 Was Unternehmen jetzt tun können 09:16 Europas KI-Fähigkeiten und Weiterbildung 10:29 AI Safety Index des Future of Life Institute 11:17 Mistral schneidet am schlechtesten ab 14:06 Google: Jeff Dean geht nach 27 Jahren 16:30 Von Google Brain bis AlphaGo 19:01 AlphaFold und der Fall Timnit Gebru 20:39 Brain und DeepMind fusionieren 22:14 Discovery Loop: Forschung automatisieren 23:39 Black Forest Labs und Mimic Robotics 24:50 MiniMax: Lizenz schließt Europa aus 25:38 Perplexity gewinnt gegen Amazon 26:33 Fazit 🔗 LEEON: https://leeon.com 👉 Abonnieren für jede Woche KI-News auf Deutsch. #KünstlicheIntelligenz #KINews #KISicherheit #OpenAI #AIWeekly #LEEON