Как запустить ИИ на своем компьютере / Подробный гайд на KoboldCpp
PaKuJ_i
0:00 / 0:00
Как запустить ИИ на своем компьютере / Подробный гайд на KoboldCpp
4 567 просмотров · 1 г. назад
PaKuJ_i
19 подписчиков
4 567 просмотров · 1 г. назад
Видео подробно рассказывает об основах программы KoboldCpp, что позволяет запускать языковые и другие модели на вашем компьютере без ограничений.
Если у вас остались какие то вопросы, напишите в комментариях, постараюсь ответить если смогу.
В видео могут быть ошибки и неточности, если вы хотите дополнить или указать на ошибки, напишите в комментариях, дабы помочь другим зрителям.
Ссылки:
KoboldCpp - https://github.com/LostRuins/koboldcpp
Модели Hugging Face - https://huggingface.co/models
Рекомендую модели:
bartowski/Mistral-Nemo-Instruct-2407-GGUF
bartowski/mistralai_Mistral-Small-3.2-24B-Instruct-2506-GGUF