Перейти к содержимому

Как запустить локальные LLM на ПК с помощью Ollama + агент Hermes

Nolan Selby

0:00 / 0:00

Как запустить локальные LLM на ПК с помощью Ollama + агент Hermes

1 597 просмотров · 1 месяц назад
Nolan Selby
105 тыс. подписчиков
1 597 просмотров · 1 месяц назад
В этом видео я шаг за шагом покажу вам, как запускать локальные LLM-ы непосредственно на вашем ПК с помощью Ollama и подключать их к Hermes Agent. Полезные ссылки: Ollama: https://ollama.com/ Загрузки Ollama: https://ollama.com/download Библиотека моделей Ollama: https://ollama.com/search GitHub Hermes Agent: https://github.com/NousResearch/herme... Документация Hermes Agent: https://hermes-agent.nousresearch.com... Интеграция Ollama + Hermes: https://docs.ollama.com/integrations/... Документация по Ollama OpenAI-совместимому API: https://docs.ollama.com/api/openai-co... В видео мы рассмотрим: Установку Ollama Загрузку локальных моделей Запуск и тестирование модели Подключение Hermes Agent к Ollama Настройку локальной конечной точки API Установку контекста окно Запуск ИИ-агента полностью на вашем собственном компьютере Переключение между различными локальными LLM Используемые команды: Bash Установка Ollama в Linux curl -fsSL https://ollama.com/install.sh | sh Проверка Ollama ollama --version Загрузка модели ollama pull gemma4 Просмотр установленных моделей ollama list Запуск модели напрямую ollama run gemma4 Просмотр загруженных моделей ollama ps Установка Hermes Agent curl -fsSL https://hermes-agent.nousresearch.com... | bash Запуск Hermes hermes При настройке Hermes с Ollama используйте:  Базовый URL API: http://127.0.0.1:11434/v1 Ключ API: ollama Режим совместимости: Завершение чата Контекстное окно: 65536 Эта настройка позволяет запускать ИИ локально, использовать собственное оборудование для вывода, подключать локальные модели к агенту ИИ и избегать полной зависимости от облачных моделей. #LocalLLM #Ollama #HermesAgent #AI #OpenSourceAI #LocalAI #LLM