Qwen3 8 27B GSQ RCO
Luke's Dev Lab
0:00 / 0:00
Qwen3 8 27B GSQ RCO
39 131 просмотр · 1 день назад
Luke's Dev Lab
13,6 тыс. подписчиков
39 131 просмотр · 1 день назад
В этом видео я рассмотрю квантизацию GSQ RCO в Qwen 3.8 27B от ISTA DAS Lab Austria. Может ли этот метод квантизации превзойти некоторые базовые модели квантизации?
Я проведу несколько тестов:
1. Производительность
2. Память
3. Рассуждения
4. Оценка человека OpenAI
5. Канбан
6. Физика песка
7. Dungeon Crawler
8. Blender
9. Godot
Если вас интересуют локальные LLM, ИИ и домашние лаборатории — подписывайтесь!
Модель: https://huggingface.co/ISTA-DASLab/Qw...
Мои конфигурации: https://github.com/lukesdevlab/youtube
HumanEval: https://github.com/openai/human-eval
Patreon: / lukesdevlab
#localllm #localai #homelab #llamacpp #homelab #openai #qwen #27b #3.8 #rco #gsq
Разделы:
0:00 Вступление
0:10 Модель
1:15 Тесты
2:00 Система
2:24 Производительность
3:25 Память
4:19 Рассуждения
4:49 OpenAI HumanEval
5:25 Канбан
6:20 Физика песка
8:04 Dungeon Crawler
8:46 Blender
10:16 Годо
12:04 Заключение