Vom LLM zum KI-Agenten: Hermes Agent lokal installieren (RTX 3060)

Ein LLM kann antworten, ein Agent kann handeln. In diesem Video machen wir aus unserem lokalen Sprachmodell einen echten KI-Agenten: Wir installieren den Hermes Agent von Nous Research in einer eigenen Debian-13-VM auf Proxmox, verbinden ihn mit unserem llama-server (Bonsai 2 auf einer RTX 3060) und testen Tool Calling, Dateizugriff und Terminal-Befehle. Zum Schluss richten wir Telegram ein, damit Hermes auch vom Smartphone aus erreichbar ist. 📖 Komplette Schritt-für-Schritt-Anleitung mit allen Befehlen: https://lon3s.com/projekte/hermes-age... ⏱️ Kapitel 00:00 Intro: Was ist der Unterschied zwischen LLM und Agent? [03:00] VM für Hermes in Proxmox erstellen [04:22] Debian 13 mit XFCE installieren [05:22] Hermes Agent installieren und mit der LLM API verbinden [07:33] Hermes als Agent testen (Tools, Dateien, Terminal) [08:07] Telegram einrichten [09:42] Fazit 🧩 Mein Setup • Proxmox VE als Host • AMD Ryzen 8700F • NVIDIA RTX 3060 (12 GB VRAM) • 16 GB DDR5 Systemram • llama.cpp / llama-server mit Bonsai 2 (PrismML-Fork) • Hermes Agent in einer Debian-13-VM (4 Kerne, 4 GB RAM, 32 GB) 🔗 Die bisherigen Teile der Local-AI-Serie • NVIDIA-GPU unter Proxmox für einen LXC-Container: https://lon3s.com/projekte/nvidia-gpu... • llama.cpp für GGUF-Modelle: https://lon3s.com/projekte/standard-l... • Bonsai 2 mit llama.cpp-Fork: https://lon3s.com/projekte/bonsai-2-m... Nicht alles funktioniert beim ersten Versuch, und genau das gehört dazu. Schreib mir in die Kommentare, wo es bei dir gehakt hat oder welches Projekt ich als Nächstes auf dieser Infrastruktur umsetzen soll (Immich, Jellyfin, ComfyUI …).