Запускайте модели ИИ с USB-флешки в полностью автономном режиме — полная конфиденциальность и отс...
Hackitron
0:00 / 0:00
Запускайте модели ИИ с USB-флешки в полностью автономном режиме — полная конфиденциальность и отс...
14 357 просмотров · 6 мес. назад
Hackitron
10,7 тыс. подписчиков
14 357 просмотров · 6 мес. назад
Надеюсь, вы узнали что-то полезное из этого краткого руководства о том, как запустить ИИ локально с USB-флешки. Эта настройка позволяет осуществлять приватное взаимодействие с ИИ и функционирует как офлайн-чат-бот, что делает её по-настоящему самодостаточным решением для ИИ. Это решение обеспечит конфиденциальность вашего ИИ.
Подписывайтесь, чтобы получать больше информации
insta - / hackitron
Ссылки на ресурсы:
llamafile - https://github.com/mozilla-ai/llamafile
hugging face - https://huggingface.co/models?library...
koboldcpp - https://github.com/henk717/KoboldCpp/...
команды -
llamafile -
""
.\name.exe --server --model DeepSeek-R1-Distill-Qwen-14B-Q4_K_M.gguf
""
koboldcpp
""
koboldcpp.exe --model DeepSeek-R1-Distill-Qwen-14B-Q4_K_M.gguf --usecublas --quiet --launch
pause
""
Запуск моделей ИИ из вашего USB-флешка полностью автономна - полностью конфиденциальна и без цензуры
#ai
#privateai
#llm
#aihacking
#hackitron