Перейти к содержимому

LM Studio как пользоваться: нейросеть на ПК без командной строки

TOKS на русском

0:00 / 0:00

LM Studio как пользоваться: нейросеть на ПК без командной строки

207 просмотров · 3 дн. назад
TOKS на русском
2 подписчика
207 просмотров · 3 дн. назад
LM Studio на своём ПК: ставим с нуля без единой команды, выбираем модель под видеокарту и память, и честно сравниваем с Ollama на одном компьютере. А в конце одна настройка, которая уронила скорость в 70 раз. ⏱ Главы 0:00 93 против 20: LM Studio vs Ollama из коробки 0:27 Что такое LM Studio 0:45 Шаг 1: где скачать (не перепутайте с Bionic) 1:06 Шаг 2: установка и требования 1:29 Шаг 3: поиск модели, Q4/Q6/Q8, зелёный значок 2:06 Сколько видеопамяти нужно (оценка LM Studio) 2:46 Шаг 4: первый чат по-русски 3:09 Замеры скорости: GPU, половина GPU, процессор 3:42 LM Studio или Ollama? 4:17 Частые ошибки: контекст на максимум, не загружается, думает по-английски 5:22 Итог 📊 МОИ ЗАМЕРЫ (LM Studio 0.4.26, Ollama 0.40.3, RTX 5090, вопрос на русском, ток/с) Qwen3.8 27B по умолчанию: LM Studio 92,8 · Ollama 20,1 Qwen3.8 27B, контекст 32K: LM Studio 84,8 · Ollama 112,0 Gemma 4 E4B по умолчанию: LM Studio 193,0 · Ollama 276,2 Qwen3.8 27B, половина на видеокарте (~11 ГБ): 9,8 Gemma 4 E4B только процессор (Ryzen 9 9950X3D): LM Studio 15,6 Qwen3.8 27B, контекст 262144: 1,3 (оценка LM Studio: 49,32 ГБ при 32 ГБ видеопамяти) 📋 ОЦЕНКА ПАМЯТИ LM STUDIO (контекст 4K / 32K) Gemma 4 E4B: 6,3 / 7,9 ГБ · Qwen3.8 27B: 18,8 / 22,2 ГБ 🔧 ЕСЛИ ПРОБЛЕМЫ Медленно: контекст 8192 или 32768, не максимум; GPU Offload на максимум Не загружается: меньше контекст, сдвиньте GPU Offload, или Q4 вместо Q8 Думает по-английски: кнопка Think под полем ввода 💬 Какая у вас видеокарта и сколько токенов в секунду в LM Studio? Напишите, соберу таблицу. 🔗 LM Studio: https://lmstudio.ai · Требования: https://lmstudio.ai/docs/app/system-r... ▶ Ollama за 5 минут:    • Как установить нейросеть на компьютер без ...   🖥 RTX 5090 32 ГБ · Ryzen 9 9950X3D · 64 ГБ DDR5 · Windows 11 Голос: ElevenLabs (ИИ-голос) · Музыка и звуки: свои · Ведущий: Токи (робот) #нейросети #lmstudio #локальнаянейросеть