Локальная нейронка на llama.cpp
Антон Муравьев
0:00 / 0:00
Локальная нейронка на llama.cpp
6 792 просмотра · 2 месяца назад
Антон Муравьев
528 подписчиков
6 792 просмотра · 2 месяца назад
Плейлист по нейронкам:
• Нейронки
Ресурсы:
LM Studio: https://lmstudio.ai/
Ollama: https://ollama.com/
Заметка "Ollama в Podman": https://tsb99x.github.io/notes/ollama...
Заметка "Open WebUI в Podman": https://tsb99x.github.io/notes/open-w...
llama.cpp на GitHub: https://github.com/ggml-org/llama.cpp
Gemma 4 от Unsloth: https://huggingface.co/unsloth/gemma-...
Эпизоды:
00:00 Вступление
02:02 Про LM Studio
03:30 Про Ollama
04:36 Ollama и Open WebUI
05:50 Про llama.cpp
07:00 Новый UI в llama.cpp
07:40 Поддерживаемые API
09:15 О релизах llama.cpp
11:11 Про тестовую модель
12:00 Демо
13:45 llama-cli
15:23 llama-bench
16:27 llama-server и UI
18:55 Спасибо за внимание!