Lokale KI-Modelle: Alles, was du wissen musst (Full-Guide)

Kostenloser AI-Ready-Check: https://www.underdoxai.com/kontakt WhatsApp-Kanal: https://www.whatsapp.com/channel/0029... Website: https://underdoxai.com/ LinkedIn:   / kevin-matyja-833a60294   Gemma, Qwen, Llama – dahinter 1B, 4B oder 32B, und dann auch noch Q4, Q8, Instruct oder Base. Die meisten laden am Ende einfach das Größte, was sie finden können – und genau das ist meistens der falsche Ansatz. In diesem Video bauen wir die Modellauswahl von Grund auf auf: was ein lokales KI-Modell eigentlich ist, was die Zahlen im Namen bedeuten, wie du den Speicherbedarf abschätzt und wie du am Ende selbst entscheidest. Getestet wird das Ganze praktisch auf einem MacBook Air M1 mit nur 8 GB gemeinsamem Arbeitsspeicher – mit Gemma 3 1B, Gemma 3 4B und Qwen 3 4B auf exakt denselben Aufgaben. Danach liest du einen Namen wie gemma3:4b-it-q4_K_M wie einen Steckbrief. 00:00 Warum die meisten das falsche Modell laden 01:16 Wer hier spricht 01:44 Was bedeutet lokale KI überhaupt? 03:11 Was steckt in einer Modelldatei? 04:21 Neuronale Netze und Parameter 05:38 Erst die Aufgabe, dann das Modell 06:40 SSD, RAM, VRAM und Unified Memory 08:12 Quantisierung einfach erklärt 09:41 Speicherbedarf überschlagen 10:52 Kontextfenster und KV-Cache 12:03 Dense und Mixture of Experts 13:15 Praxistest 1: Gemma 3 1B gegen 4B 16:34 Praxistest 2: Gleiche Größe, anderer Use Case 18:36 Modellnamen richtig lesen 19:38 Die Auswahlformel in sechs Schritten 20:39 Wie es weitergeht Wenn dir das geholfen hat, lass gerne ein Abo da – im nächsten Video richten wir gemeinsam ein, wie du deutlich stärkere Modelle nutzt, ohne deinen eigenen Laptop zu überlasten. Und schreib mir in die Kommentare, welches Modell bei dir gerade lokal läuft. 👋 Hey, ich bin Kevin, CEO von UnderdoxAI. Auf diesem Kanal zeige ich dir, wie du KI wirklich für dein Business nutzt — verständlich erklärt, direkt umsetzbar. Mit UnderdoxAI unterstütze ich Unternehmen außerdem bei Implementierung, Beratung und Schulungen rund um KI. lokale KI, lokales KI Modell, Ollama, Gemma 3, Qwen 3, Llama, Quantisierung, Q4_K_M, Parameter erklärt, 4B Modell, VRAM RAM Unified Memory, KV-Cache, Kontextfenster, Mixture of Experts, MoE, Modell auswählen, KI offline nutzen, LLM lokal betreiben, MacBook 8 GB KI #LokaleKI #Ollama #KIfürUnternehmen #Modellauswahl #OpenSourceKI