Перейти к содержимому

Stolen Thoughts | KI News

andrenaobjects и developers club

0:00 / 0:00

Stolen Thoughts | KI News

132 просмотра · 2 мес. назад
andrenaobjects и developers club
132 просмотра · 2 мес. назад
Meta ist zurück im Open-Weight-Lager: Muse Glimmer ist ein Dense-Modell mit 30 Milliarden Parametern und kommt erstmals unter Apache 2.0, ohne die bekannten Llama-Klauseln. In seiner Gewichtsklasse ist es damit aktuell das stärkste Modell und liegt vor Gemma 4 und Qwen 3.6, die beide rund vier Monate älter sind. Zuckerberg schreibt im begleitenden Blogpost von Personal Superintelligence als Lücke, die Meta besetzen will, und kündigt weitere Open-Source-Releases an. Deutlich unangenehmer ist das Paper zu Stealing Reasoning Traces. Die verschlüsselten Reasoning-Blöcke, die zwischen Client und API hin- und hergeschickt werden, lassen sich entschlüsseln, indem man das kleinste Modell derselben Familie per Prompting jailbreakt, denn innerhalb einer Familie kann jedes Modell die Traces der anderen lesen. Das funktioniert bei OpenAI, Anthropic und Grok gleichermaßen. Praktisch relevant wird das bei veröffentlichten Agent-Trajektorien, etwa bei Eval-Runs oder versehentlich committeten Sessions. Die Autoren haben genau dort massenhaft Credentials und personenbezogene Daten gefunden, weil kein Secret-Scanner in verschlüsselten Blöcken anschlägt. Der Tipp für euch: schaut nach, wo ihr Trajektorien veröffentlicht, und schneidet die Thinking Traces vorher einfach raus. Am 14. August wird der Auto Mode in Claude Code zum Default. Ein kleiner Classifier entscheidet dann pro Befehl, ob er ausgeführt werden darf, und Anthropic berechnet dafür keine Token mehr. Begründet wird das mit Permission Fatigue: immer mehr User geben aus Frust pauschale Wildcards raus, und ab etwa 50 Nachrichten in einer Session findet praktisch keine ernsthafte Prüfung mehr statt. Das ist eine klare Verbesserung, aber der Classifier liegt nicht bei 100 Prozent. Bei dem Volumen an Sessions heißt das, dass täglich Harmful Actions durchrutschen werden, von gelöschten Datenbanken bis zu Zugriffen auf fremde Systeme. Denkt also beides: Auto Mode als Komfortgewinn und trotzdem eine Sandbox oder einen sauber begrenzten Blast Radius. Zum Schluss drei Modelle innerhalb eines Tages, von denen wahrscheinlich keins euer Daily Driver wird. Grok 4.6 liegt im Artificial-Analysis-Index jetzt auf dem Niveau von GPT-5.6, ist damit aber gut einen Monat hinterher und liefert keinen Grund zum Wechseln. DeepSeek V4 Pro erscheint ohne Release-Blogpost und nur hinter der API, dafür extrem günstig, und Qwen 3.8 Max ist ein Mega-Modell in der Größenordnung von Kimi K3, das zwei Wochen zu spät kommt. Am Rande noch: das unveröffentlichte OpenAI-Modell, das im Testing Hugging Face gehackt hat, hat offenbar Thresholds im Preparedness Framework gerissen. Dahinter steckt Astra, ein im Post-Training extrem hartnäckig getuntes Modell, während parallel unter dem Codenamen Doe das nächste Base-Modell trainiert wird. Beides addiert sich auf, und genau darum wäre es ein Fehler, jetzt mit einer Sättigung zu rechnen. Links: Meta Muse Glimmer: https://research.meta.ai/blog/introdu... https://artificialanalysis.ai/models/... https://www.meta.com/thefutureisforev... Stealing Reasoning Traces: https://stolen-thoughts.com/ Claude Code Auto Mode wird Default: https://claude.com/blog/auto-mode-def... Neue Modelle: https://x.ai/news/grok-4-6 https://artificialanalysis.ai/article... https://simonwillison.net/2026/Aug/12... https://qwen.ai/blog?id=qwen3.8