Wenn langer KI-Kontext lokal wird
Lissy AI
0:00 / 0:00
Wenn langer KI-Kontext lokal wird
5 просмотров · 12 дней назад
Lissy AI
1 подписчик
5 просмотров · 12 дней назад
Heute geht es um Kontrolle in der KI-Toolchain: JustFit zeigt lange lokale Kontexte auf 24 Gigabyte Speicher, Nvidia bringt Rust näher an CUDA, Mistral und Mozilla arbeiten an privater Browser-KI, OpenDocBot setzt auf eigene Modelle in Office-Dateien und Pizza Bot organisiert Agentenarbeit als Inbox.
Quellen
• JustFit: 200K-Token LLM Serving on a 24 GiB Laptop (https://huggingface.co/papers/2609.17475)
• Nvidia: Introducing CUDA Rust (https://developer.nvidia.com/blog/int...)
• Mistral x Mozilla (https://mistral.ai/news/mistral-x-moz...)
• OpenDocBot (https://opendocbot.com/)
• Pizza Bot (https://github.com/pizza-bot-app/pizz...)
Zur Episode auf ailissy.de (https://ailissy.de/episodes/2026-09-1...)