Не покупайте 128 ГБ для локального ИИ, если у вас уже есть 24 ГБ
The 10x Stack
0:00 / 0:00
Не покупайте 128 ГБ для локального ИИ, если у вас уже есть 24 ГБ
18 569 просмотров · 2 дн. назад
The 10x Stack
779 подписчиков
18 569 просмотров · 2 дн. назад
Компьютер DGX Spark за 4699 долларов или Mac Studio за ~5000 долларов со 128 ГБ унифицированной памяти не являются автоматическим апгрейдом по сравнению с уже имеющейся у вас видеокартой на 24 ГБ.
Это руководство по покупке для пользователей локальной сети LLM, которые уже владеют видеокартой класса RTX 3090 с 24 ГБ памяти и смотрят на эту вкладку. Генерация токенов определяется пропускной способностью памяти, а не количеством простаивающих гигабайт. NVIDIA оценивает пропускную способность 3090 в 936 ГБ/с. Шина LPDDR5x у Spark составляет 273 ГБ/с. 40-ядерный процессор Apple M5 Max с 128 ГБ памяти имеет пропускную способность 614 ГБ/с. AMD Strix Halo показывает около 256 ГБ/с.
Ежедневные файлы за октябрь 2026 года имели размер 24 ГБ: Qwen 3.8 — 27 байт для кодирования, Gemma 4 — 26 байт для скорости и полного окна размером 256 КБ, Qwen 3.6 — 35 байт для агентов. На тех же 27 байтах опубликованный файл llama.cpp работает примерно на 40 ток/с на GPU и примерно на 12 ток/с на Spark. Пустая оперативная память при размере файла более 19 ГБ не расширяет шину.
Вы увидите:
Почему покупатели приобретают танк, а токены производятся трубой
Четыре названные трубы в одной шкале: 936 / 273 / 256 / 614 ГБ/с
Трио 24 ГБ этого месяца и почему Gemma 4 31B падает с ~44 до 9,6 ток/с, когда происходит перегрузка в оперативную память
Почему существует 128 ГБ (Flash-Next ~180B указано, ~6B активно) и когда достаточно разгрузки на быстрой DDR5
llama.cpp против vLLM против Strata и почему 381 ток/с — это поиск, а не чат
Четыре случая, когда 5000 долларов — это первый вариант: резидентный сервер с 60 ГБ+ памяти, тихий сервер мощностью 140 Вт, рабочая станция Mac, кластеризация ConnectX
Дополнительные затраты на Spark, равные ~16 годам Claude Pro или почти двум годам Claude Max 20x
Это не сравнительный лабораторный тест и не рекомендация «никогда не покупайте 128 ГБ». Показатели Tok/s — это опубликованные рецепты для конкретных движков. Официальная цена Spark составляет 4699 долларов (повышение в феврале 2026 года с 3999 долларов). В октябре 2026 года подержанные видеокарты 3090 в США стоили около 1500–1600 долларов.
Разделы
00:00 Покупка за 4699 долларов
00:35 Не является апгрейдом для повседневных моделей
01:02 Токены поступают из трубы
01:24 936 против 273 против 256 против 614
01:57 Более широкий бак, более узкий шланг
02:17 Карта 24 ГБ этого месяца
02:36 Qwen 3.8 27B для программирования
03:01 Gemma 4 26B для скорости
03:31 Агенты 35B, затем обрыв 31B
04:04 Пропускаем телефонный обрыв 12B
04:17 Те же 27B: ~40 против ~12
04:45 Пустая оперативная память не ускоряет шину
05:08 Почему 128 ГБ существует: Flash-Next
05:43 Механизм вывода
06:02 llama.cpp, vLLM и Strata
06:28 DDR5 против DDR4 и миф о 381
06:56 Владелец 96 ГБ, модель для ежедневного использования с 12 ГБ
07:10 Когда 5000 долларов — это первое
07:41 Mac Studio и кластеризация
08:18 Февральская цена против подержанной 3090
08:32 16 лет Claude Pro
09:00 Загрузите трио и закройте вкладку
#localai #localllm #dgxspark #rtx3090 #llamacpp #vllm #qwen3 #gemma4 #vram #homelab #nvidia #macstudio #artificialintelligence #localllama #unifiedmemory #mac #macmini #strata #localai
Запросы пользователей
Стоит ли мне Купить DGX Spark, если у меня уже есть 3090?
Быстрее ли 128 ГБ унифицированной памяти, чем 24 ГБ видеокарты?
DGX Spark против RTX 3090 для локальных LLM-игр
Почему моя 24 ГБ видеокарта быстрее, чем 128 ГБ?
Какие модели подойдут для 24 ГБ видеопамяти в 2026 году?
Qwen 3.8 27B против Gemma 4 26B на 3090
Какова пропускная способность памяти у DGX Spark?
Mac Studio M5 Max 128GB против RTX 3090 для локального ИИ
Когда 128 ГБ унифицированной памяти стоят 5000 долларов?
Могу ли я запустить Qwen Flash-Next на 24 ГБ видеокарте?
Сравнение llama.cpp и vLLM на RTX 3090
Почему производительность Gemma 4 31B упала до 9,6 токенов в секунду?
DGX Spark $4699 против подержанной RTX 3090
Является ли локальный ИИ заменой Claude Opus?
Стоит ли закрывать вкладку покупки DGX Spark?
Источники
Страница продукта NVIDIA GeForce RTX 3090 (24 ГБ GDDR6X, 350 Вт) — https://www.nvidia.com/en-us/geforce/...
Технический документ NVIDIA Ampere GA102 — пропускная способность памяти 936 ГБ/с
Страница продукта NVIDIA DGX Spark (128 ГБ LPDDR5x, до 273 ГБ/с) — https://www.nvidia.com/en-us/products...
Документация по оборудованию NVIDIA DGX Spark — https://docs.nvidia.com/dgx/dgx-spark...
Форум разработчиков NVIDIA, объявление об изменении цены 23.02.2026 — официальный прайс-лист 4699 долларов США (ранее 3999 долларов США)
Технические характеристики Apple Mac Studio (40-ядерный процессор) M5 Max 128 ГБ, 614 ГБ/с; M5 Ultra начинается с 96 ГБ) — https://www.apple.com/mac-studio/specs/
Пропускная способность платформы AMD Ryzen AI Max+ 395 / Strix Halo (~256 ГБ/с) и примечания к Windows VGM
Hugging Face `Qwen/Qwen3.8-27B` — https://huggingface.co/Qwen/Qwen3.8-27B
Hugging Face `Qwen/Qwen3.8-Flash-Next` (~18...