Достаточно ли 1500 долларов, чтобы запустить DeepSeek V4.1 Flash? (Project Maya)

Рабочая станция Dell 2014 года с двумя RTX 3060 может локально запускать DeepSeek V4.1 Flash. В предыдущем видео я говорил, что самая дешевая конфигурация для серьезной работы с программным агентом стоит около 14 000 долларов. Затем появился Project Maya — и заставил меня взглянуть на него по-новому. Project Maya — это новый локальный движок вывода для GLM 5.3 Flash и DeepSeek V4.1 Flash. Он размещает наиболее часто используемые эксперты модели на графическом процессоре, остальные хранит в системной оперативной памяти, а остальные может считывать с NVMe-накопителя. Он также предоставляет API, который можно подключить к таким инструментам, как Claude Code. Мы следим за результатами тестирования сообщества на подержанном Dell Precision T5810 с 22-ядерным процессором Xeon, двумя RTX 3060 и 256 ГБ оперативной памяти. DeepSeek работает там примерно на 10 токенов в секунду — но на создание одного небольшого SVG-рисунка ушло 73 минуты. В видеоролике рассматривается, почему это подходит, что ограничивает скорость и почему количество каналов оперативной памяти может быть таким же важным, как и видеокарты. Затем следует часть, которая меняет ситуацию: в следующем релизе Maya было исправлено узкое место в чтении подсказок, сократив время обработки подсказки в 32 000 токенов с более чем пяти минут до примерно 30 секунд в отчете с другой машины с семью графическими процессорами. Мы также сравниваем результаты тестов GLM, проведенных сообществом, рассматриваем компромиссы между оборудованием и квантизацией и решаем, что имеет смысл, если у вашего ПК меньше памяти. Это обзор сборок и отчетов сообщества, а не практическое тестирование. Мы не запускали Maya и не проверяли заявленные скорости самостоятельно. Разделы 0:00 Может ли Project Maya запустить DeepSeek на ПК 2014 года? 0:46 В Project Maya добавлен DeepSeek V4.1 Flash 1017 1:48 Что делает Project Maya: локальный API для кода Claude 2:28 Почему DeepSeek требует так много памяти 3:26 Как Maya распределяет модель между GPU, RAM и SSD 4:30 Пропускная способность RAM: почему один и тот же GPU может работать быстрее 5:51 Требования и квантизация Project Maya 7:02 Project Maya против llama.cpp: справедливое сравнение 7:51 73-минутная отрисовка DeepSeek 8:23 Узкое место Maya при чтении подсказок и решение 9:53 Сможет ли проект, над которым работают два человека, справиться? 10:30 Что запускать на более компактном оборудовании: GLM или Qwen? 11:18 Вердикт: достаточно ли локального ПК DeepSeek за 1500 долларов? Основные характеристики • Тестовая машина, по данным Digital Spaceport: Dell Precision T5810, 22-ядерный Xeon E5-2696 v4, 2× RTX 3060 12 ГБ, 256 ГБ DDR4 RAM • DeepSeek V4.1 Flash: 552 байта параметров, около 16 байт активных параметров на сгенерированный токен • Project Maya утверждает, что DeepSeek работает быстро при объеме оперативной и видеопамяти около 230 ГБ; • Dell имеет около 280 ГБ оперативной и графической памяти. • Сборка DeepSeek по умолчанию в Maya: около 178 ГБ весов модели, с использованием 2–3-битных экспертов. • Заявленная скорость декодирования DeepSeek на Dell: около 11 токенов в секунду вначале, снижаясь до примерно 9 по мере увеличения контекста. • Одна задача отрисовки SVG на этом компьютере: 4413 секунд, или около 73,5 минут обработки. • Чтение подсказки: подсказка из 32 000 токенов со скоростью примерно 100 токенов в секунду занимает более пяти минут; Сообщается, что в Maya 1.1.17 скорость предварительного заполнения увеличилась до 1010 токенов в секунду на отдельной системе с семью видеокартами RTX 3090. • Сравнение памяти GLM: одна RTX 3090 и одна RTX 3060 достигли примерно 20 токенов в секунду на двухканальной системе и 33,7 на восьмиканальной серверной плате. • Оценка стоимости подержанной рабочей станции: около 1500–3000 долларов США, исходя из цен, проверенных в октябре 2026 года — это не протестированная полная сборка. Все показатели скорости оборудования в этом видео взяты из отчетов сообщества, а не из контролируемого тестирования на одной системе. В сравнении Maya-versus-llama.cpp GLM использовались разные машины и файлы моделей, поэтому это приблизительное сравнение. Показатель 1010 токенов в секунду получен на системе с семью видеокартами, а не на Dell. Диапазон цен на рабочие станции основан на ценах на подержанном рынке и варьируется в зависимости от региона и состояния. Поддержка AMD в Project Maya экспериментальная, поддержка Windows экспериментальная, и она не поддерживает Mac. Вы бы использовали подержанную рабочую станцию ​​для локального ИИ или предпочли бы запустить модель меньшего размера? Расскажите, какое у вас оборудование, в комментариях. Подпишитесь на канал Morgan's Code, чтобы получать подробные обзоры локальных моделей ИИ, агентов кодирования, бенчмарков и оборудования для их запуска: https://www.youtube.com/@MorgansCode?... Голос и синтез Оригинальный голос: CSTR VCTK Corpus 0.92, диктор p360, создано Кристофом Вео, Джуничи Ямагиши и Кирстен Макдональд в Эдинбургском университете. Лице...