Как запустить локальные LLM на ПК с помощью Ollama + агент Hermes
Nolan Selby
0:00 / 0:00
Как запустить локальные LLM на ПК с помощью Ollama + агент Hermes
1 597 просмотров · 1 месяц назад
Nolan Selby
105 тыс. подписчиков
1 597 просмотров · 1 месяц назад
В этом видео я шаг за шагом покажу вам, как запускать локальные LLM-ы непосредственно на вашем ПК с помощью Ollama и подключать их к Hermes Agent.
Полезные ссылки:
Ollama:
https://ollama.com/
Загрузки Ollama:
https://ollama.com/download
Библиотека моделей Ollama:
https://ollama.com/search
GitHub Hermes Agent:
https://github.com/NousResearch/herme...
Документация Hermes Agent:
https://hermes-agent.nousresearch.com...
Интеграция Ollama + Hermes:
https://docs.ollama.com/integrations/...
Документация по Ollama OpenAI-совместимому API:
https://docs.ollama.com/api/openai-co...
В видео мы рассмотрим:
Установку Ollama
Загрузку локальных моделей
Запуск и тестирование модели
Подключение Hermes Agent к Ollama
Настройку локальной конечной точки API
Установку контекста окно
Запуск ИИ-агента полностью на вашем собственном компьютере
Переключение между различными локальными LLM
Используемые команды:
Bash
Установка Ollama в Linux
curl -fsSL https://ollama.com/install.sh | sh
Проверка Ollama
ollama --version
Загрузка модели
ollama pull gemma4
Просмотр установленных моделей
ollama list
Запуск модели напрямую
ollama run gemma4
Просмотр загруженных моделей
ollama ps
Установка Hermes Agent
curl -fsSL https://hermes-agent.nousresearch.com... | bash
Запуск Hermes
hermes
При настройке Hermes с Ollama используйте:

Базовый URL API:
http://127.0.0.1:11434/v1
Ключ API:
ollama
Режим совместимости:
Завершение чата
Контекстное окно:
65536
Эта настройка позволяет запускать ИИ локально, использовать собственное оборудование для вывода, подключать локальные модели к агенту ИИ и избегать полной зависимости от облачных моделей.
#LocalLLM #Ollama #HermesAgent #AI #OpenSourceAI #LocalAI #LLM