#17 - KI-Agenten brechen aus der Sandbox aus, ChatGPT Astra & die AGI-Frage

Dieses Jahr häufen sich die Berichte über KI-Agenten, die ihre Testumgebung verlassen. Levi wollte wissen: Wie funktioniert das eigentlich – und wie stimmen sich Agenten dabei ab? Was er gefunden hat, klingt nach Science-Fiction. Ein Agent ließ auf einer Webseite einen Zähler hochlaufen – eine Art Pulsschlag, den die anderen Agenten wahrnehmen konnten. Und als ein „Pförtner" die Agenten auf Lesezugriffe beschränken sollte, haben sie ihn ausgetauscht: Adresse kopiert, einen Buchstaben durch sein kyrillisches Gegenstück ersetzt – für Mensch und System auf den ersten Blick nicht zu unterscheiden. Dazu Fälle, in denen sich Agenten für ein gemeinsames Ziel regelrecht „opfern". Wie ernst ist das? Kritiker wie Gary Marcus warnen davor, KI zu vermenschlichen – das eigentliche Risiko seien Menschen und Organisationen, die solche Lücken gezielt ausnutzen. Und über allem steht die Frage: Wer trägt die Verantwortung – das Modell, der Entwickler oder der Betreiber? Dass es keine rein akademische Frage ist, zeigt ein ehemaliger Anthropic-Forscher, der die KI-Branche komplett verlassen hat, weil aus seiner Sicht kein Unternehmen verantwortungsvoll genug mit dieser Macht umgeht. Außerdem: OpenAI hat ChatGPT Astra gestartet – vom Chatbot zum Mitarbeiter, der Aufgaben plant, Programme bedient und mehrere Arbeitsschritte selbstständig verbindet. Ist das der Beginn der AGI-Ära oder vor allem gutes Marketing? Und woran würden wir AGI überhaupt erkennen? Dazu ein ehrlicher Erfahrungsaustausch: Werden die Modelle gerade schlechter? Was ist mit Manus passiert? Und warum wird der Vertrieb zum eigentlichen Engpass, wenn Bauen keiner mehr ist? Hot News: Metas neuer Agent darf E-Mails senden, Reisen buchen und bezahlen – überwacht von einem zweiten Sicherheits-Agenten. Wipro spricht von KI-Kapazität, die rechnerisch der Arbeit von 20.000 Beschäftigten entspricht. Und ChatGPT, Claude und Grok fielen am 3. September fast gleichzeitig aus. 🎧 Auch als Podcast auf Spotify: https://open.spotify.com/show/033n33A... ⏱️ Kapitel 00:00 Start: Umzug und Agenten im Job 01:09 Agents und Skills: Wie Levi sich gerade selbst ersetzt 02:08 Brauchen wir überhaupt Agenten? 02:51 Was ist eigentlich AGI? 04:16 Teaser: Warum Agenten ausbrechen 05:46 Wenn Claude sagt: Geh jetzt schlafen 07:47 Werden die Modelle gerade schlechter? 08:37 Was ist mit Manus passiert? 11:03 Drei KIs gleichzeitig down 11:29 Fünf Max-Pläne — was bauen die eigentlich? 13:31 Wenn Bauen kein Engpass mehr ist: der Vertrieb 16:14 Ein Anthropic-Forscher kündigt 16:46 10 % Risiko für die Menschheit? 17:15 Wie Agenten aus der Sandbox ausbrechen 25:26 Der ausgetauschte Pförtner 31:15 Warum opfern sich Agenten füreinander? 32:05 Gary Marcus: Hört auf, KI zu vermenschlichen 32:40 Wer trägt die Verantwortung? 35:48 ChatGPT Astra: AGI oder Marketing? 37:21 Woran würden wir AGI erkennen? 43:25 Aufgaben in Prozessschritte zerlegen 45:42 Hot News: Metas Agent bucht und bezahlt für dich 48:21 Braucht KI einen eigenen Rechner? 51:41 Wipro: Kapazität für 20.000 Beschäftigte 52:32 Abschluss 👉 Abonnieren für jede Woche neue KI-News & Praxis-Tipps. 📩 Instagram: @kimischkultur #KIMischkultur #KünstlicheIntelligenz #KIAgenten #AGI #KISicherheit #ChatGPT #OpenAI #Anthropic #Meta #KINews #TechNews #Podcast #Digitalisierung