Перейти к содержимому

Локальная нейронка на llama.cpp

Антон Муравьев

0:00 / 0:00

Локальная нейронка на llama.cpp

6 792 просмотра · 2 месяца назад
Антон Муравьев
528 подписчиков
6 792 просмотра · 2 месяца назад
Плейлист по нейронкам:    • Нейронки   Ресурсы: LM Studio: https://lmstudio.ai/ Ollama: https://ollama.com/ Заметка "Ollama в Podman": https://tsb99x.github.io/notes/ollama... Заметка "Open WebUI в Podman": https://tsb99x.github.io/notes/open-w... llama.cpp на GitHub: https://github.com/ggml-org/llama.cpp Gemma 4 от Unsloth: https://huggingface.co/unsloth/gemma-... Эпизоды: 00:00 Вступление 02:02 Про LM Studio 03:30 Про Ollama 04:36 Ollama и Open WebUI 05:50 Про llama.cpp 07:00 Новый UI в llama.cpp 07:40 Поддерживаемые API 09:15 О релизах llama.cpp 11:11 Про тестовую модель 12:00 Демо 13:45 llama-cli 15:23 llama-bench 16:27 llama-server и UI 18:55 Спасибо за внимание!