Перейти к содержимому

Как запустить ИИ на своем компьютере / Подробный гайд на KoboldCpp

PaKuJ_i

0:00 / 0:00

Как запустить ИИ на своем компьютере / Подробный гайд на KoboldCpp

4 567 просмотров · 1 г. назад
PaKuJ_i
19 подписчиков
4 567 просмотров · 1 г. назад
Видео подробно рассказывает об основах программы KoboldCpp, что позволяет запускать языковые и другие модели на вашем компьютере без ограничений. Если у вас остались какие то вопросы, напишите в комментариях, постараюсь ответить если смогу. В видео могут быть ошибки и неточности, если вы хотите дополнить или указать на ошибки, напишите в комментариях, дабы помочь другим зрителям. Ссылки: KoboldCpp - https://github.com/LostRuins/koboldcpp Модели Hugging Face - https://huggingface.co/models Рекомендую модели: bartowski/Mistral-Nemo-Instruct-2407-GGUF bartowski/mistralai_Mistral-Small-3.2-24B-Instruct-2506-GGUF