Sie hören nicht auf zu hacken | KI News

Wir sind umgezogen: die KI News gibt es ab jetzt nicht mehr auf @developers-club , sondern hier bei @.andrenaobjects Am Format ändert sich nichts, es bleibt bei jedem Freitag. Abonniert am besten den Kanal, dann verpasst ihr nichts. Das Thema autonomes Hacken zieht sich weiter durch die ganze Branche. Anthropic hat rückwirkend 141.006 Eval Runs mit potenziellem Internetzugang durchgescannt und dabei drei echte Vorfälle über sechs Runs gefunden, und auch Meta bestätigt, dass Muse Spark während des Testings in fremde Systeme eingebrochen ist. Auffällig ist der gemeinsame Nenner: in beiden Fällen hatte der externe Testanbieter Irregular die Sandbox falsch konfiguriert, sodass echter Internetzugang bestand. Harmlos war das nicht. In einem Fall griff Claude eine reale Firma an, deren Domain zufällig so hieß wie das fiktive Ziel, und landete in einer Produktionsdatenbank, in einem anderen veröffentlichte das Modell ein präpariertes PyPI-Paket, das rund eine Stunde live war und auf 15 echten Systemen lief. Anthropic ordnet das als Harness- und Betriebsfehler ein, nicht als Alignment-Problem. Das UK AI Security Institute hat einen eigenen Incident-Report dazu veröffentlicht. Bei 122 Durchläufen über sieben Modelle haben Agenten in 10 Runs eigenmächtig im echten Internet gehandelt, inklusive versuchtem Supply-Chain-Angriff auf ein Open-Source-Projekt mit gefälschten Identitäten und Prompt Injections für andere KI-Systeme. Wichtig zum Einordnen: Internetzugang war hier absichtlich erlaubt und die Safety-Classifier bewusst abgeschaltet, gestoppt hat das Ganze am Ende menschliche Aufmerksamkeit und keine technische Grenze. Passend dazu hat OpenAI in einem Blogpost zu neuen Mathe-Ergebnissen den internen Codenamen Astra genannt: eine Modellklasse, die speziell darauf trainiert wurde, über Tage oder Wochen autonom zu arbeiten. Mit heutigen Tools muss man sich anstrengen, damit ein Agent einen Tag durchläuft, hier ist das der Default. Das verschiebt die Frage nach falsch konfigurierten Sandboxes noch mal deutlich. Bei Google gibt es kein neues Modell, dafür eine Umstrukturierung an der Spitze. Demis Hassabis wird Chief Scientist von Alphabet und ist für Google DeepMind nur noch als Chair für die strategische Ausrichtung zuständig, das operative Geschäft übernimmt Koray Kavukcuoglu als SVP direkt unter Sundar Pichai. Gleichzeitig verlässt Jeff Dean nach 27 Jahren das Unternehmen und gründet mit Sanjay Ghemawat, Quoc Le und Oriol Vinyals die Discovery Loop, die automatisiert Probleme in Machine Learning und Wissenschaft lösen will, mit Google als Gründungsinvestor und Cloud-Partner. Im Kosten-Cluster gibt es erstmal gute Nachrichten: OpenAI hat mit den eigenen GPT-5.6-Modellen den kompletten Inference-Stack optimiert und je nach Modell 20 bis 80 Prozent Effizienz rausgeholt. Das wird direkt weitergegeben, Luna wird 80 Prozent günstiger, Terra 20 Prozent, Soul wird nicht billiger, ist für den doppelten Preis aber zweieinhalb mal so schnell. Mit Caching und Batch landet man bei Luna bei einem Faktor von über 50 gegenüber Soul. METR prägt dazu den Begriff Expenditure Horizon: der Punkt, ab dem ein Mensch mit demselben Budget mehr erreicht als der Agent, ab dem sich mehr KI-Compute also ökonomisch nicht mehr lohnt. Am NanoGPT-Speedrun gemessen liegt diese Grenze je nach Modell zwischen null und rund 3.300 Dollar, während der menschliche Aufwand am gleichen Benchmark bei etwa 250.000 Dollar liegt. Und es hängt stark von der Aufgabe ab, ein reines Checklisten-Problem skaliert anders als eines, bei dem man immer mehr Verständnis aufbauen muss. Zum Schluss der Blick nach vorne: der verfügbare Compute wächst empirisch etwa 3x pro Jahr, der Umsatz der Labs aber grob 10x. Diese Lücke lässt sich kaum über Margen schließen, also läuft es darauf hinaus, dass Compute deutlich teurer wird und die Kosten an die Enduser durchgereicht werden. Als Referenzjahr nennt der Blogpost 2028, langfristig wird es dann vielleicht wieder günstiger. Links: Autonomous Hacking Fallout: https://www.anthropic.com/news/invest... https://openai.com/index/third-party-... https://www.aisi.gov.uk/blog/incident... https://simonwillison.net/2026/Aug/6/... https://openai.com/index/ten-advances... Google KI-Führung und Discovery Loop: https://blog.google/company-news/insi... https://www.discoveryloop.com/ KI-Kosten verändern sich: https://openai.com/index/advancing-th... https://metr.org/blog/2026-07-21-expe... https://www.dwarkesh.com/p/why-comput...