Decision Models erklärt: Schneller und günstiger als jedes LLM? | Kontext.FM #012

Decision Models sind die neue Modell-Klasse, die gerade alle nachbauen: TypeSafe AI hat mit Jev vorgelegt, OpenAI zieht mit der Decisions API nach, Cloudflare mit Clef. Kai und Trutz erklären, wie die Modelle funktionieren, wo sie sich lohnen und wo die Grenzen liegen. Ein Decision Model bekommt Kontext und feste Antwortoptionen und liefert für jede Option eine Wahrscheinlichkeit zurück. Ohne Reasoning-Umweg und ohne Output-Tokens: extrem schnell, sehr günstig und immer strukturiert. Ideal für Entscheidungen wie: Beantwortet der Agent dieses Support-Ticket selbst oder geht es an einen Menschen? Vorher berichtet Trutz von drei Wochen USA: mit dem Waymo durch Los Angeles und San Francisco, an AI-Billboards vorbei durchs Silicon Valley, vom Apple Park bis nach Stanford. Themen dieser Folge: Decision Models erklärt: Wie Jev von TypeSafe AI funktioniert und warum das Auslesen von Wahrscheinlichkeiten so schnell ist. In wenigen Wochen nachgebaut: die Decisions API von OpenAI und Clef von Cloudflare. Praxisfall Support-Tickets: automatisch antworten oder an das Team übergeben? Rund 0,04 Dollar pro Million Input-Tokens, Output kostenlos: Warum die Kosten so gut kalkulierbar sind. 95 Prozent sicher? Das Problem nicht kalibrierter Wahrscheinlichkeiten und die Chance durch Fine-Tuning. Erste Fahrten im Waymo: Wie sich ein fahrerloses Taxi anfühlt und warum es fährt wie ein Mensch. Ende 2027 soll es in München losgehen. Von der DARPA Grand Challenge 2005 bis in die Städte: rund 20 Jahre autonomes Fahren. Gefühlt neun von zehn Plakaten mit AI: Eindrücke aus dem Ökosystem Silicon Valley. Neue Modelle im Schnelldurchlauf: Opus 5.5, Sonnet 5.5, Gemini 4 Argon und GPT 6.1. Warum Sonnet bei langem Reasoning teurer werden kann als Opus. Preisdruck durch chinesische Modelle und die Frage nach Abhängigkeit und Souveränität. METR-Studie: Die Dauer, die AI-Agenten eigenständig arbeiten können, verdoppelt sich etwa alle vier Monate. Links: TypeSafe AI (Jev): https://docs.typesafe.ai/introduction METR: https://metr.org Kapitel: 00:00 Waymo, AI-Plakate und Silicon Valley 11:45 Opus 5.5, Argon und der Preisdruck 24:54 Decision Models: A, B oder C? 33:54 OpenAI und Cloudflare ziehen nach 38:50 95 Prozent sicher für 4 Cent? Mehr zu Kontext.FM: Website: https://kontext.fm Instagram:   / kontext.fm   Spotify: https://open.spotify.com/show/033Dnzu... Apple Podcasts: https://podcasts.apple.com/us/podcast... Über Kontext.FM: Praktische Anwendung von AI. Kai und Trutz reden über konkrete Projekte und deren Learnings. Auch und gerade für Nicht-Entwickler geeignet, die Inspiration für das nächste AI-Projekt suchen. #KontextFM #DecisionModels #KI #OpenAI #Waymo