DeepSeek V4.1 1017 Flash на уровне Opus: сколько на самом деле стоит его запуск?

DeepSeek V4.1 Flash — это модель с открытыми весами, которую вы можете запустить самостоятельно. Но может ли она действительно заменить подписку на Claude Code при использовании Claude Code с несколькими агентами, работающими параллельно? Мы проследили за одним разработчиком, который запускал реальный трафик Claude Code и Codex на четырех графических процессорах RTX PRO 6000 в течение 111 часов. Только эти карты обошлись примерно в 64 000 долларов по текущим ценам. Его логи показывают, что запрашивали агенты у локальной машины в ходе этих сессий, какая часть каждого запроса была действительно новой, и сколько бы стоила та же рабочая нагрузка через API DeepSeek. Ответ не так прост, как «веса бесплатны». DeepSeek V4.1 Flash имеет 552 миллиарда параметров, поэтому для его размещения требуется больше, чем просто одна большая видеокарта. Его могут запускать несколько машин, от Mac Studio с большим объемом памяти до систем DGX Spark и многопроцессорных рабочих станций — но скорость падает, когда много агентов используют одно и то же оборудование. Удивительно то, что контекст повторяется. В логах этого разработчика средний запрос содержал около 124 000 входных токенов, но только около 2700 были новыми. Это делает оперативное кэширование крайне важным. Мы также объясняем проблему с кэшированием Claude Code и vLLM, почему SGLang сработал в этой конфигурации и как эти детали влияют на сравнение затрат. В конце вы узнаете, что нужно для запуска DeepSeek Flash для агентов программирования дома, как локальная производительность сравнивается с API, и когда использование оборудования в целях конфиденциальности или командной работы может оправдать его применение. Разделы 0:00 Может ли DeepSeek V4.1 Flash заменить Claude Code дома? 0:36 DeepSeek V4.1 Flash 1017: Оценка кодирования и Opus 5 1:42 Как Claude Code использует агентов и субагентов 2:49 Почему модели с 16 миллиардами активных параметров требуется так много памяти 5:21 Скорость локального вывода с несколькими агентами ИИ 6:49 Кэширование подсказок: скрытое требование для локальных агентов 8:10 Во сколько обойдется 111 часов использования агентов DeepSeek 9:37 Кому следует запускать DeepSeek V4.1 Flash локально? 10:23 Локальный DeepSeek против подписки Claude: окончательный вердикт Ключевые показатели • Модель: DeepSeek V4.1 Flash 1017 — всего 552 миллиарда параметров; около 16 миллиардов активных параметров на каждый токен декодирования • Официальные файлы модели: около 510 ГБ; В этом видео часто используются локальные сборки размером около 430 ГБ. • Реальная рабочая нагрузка: 111 часов трафика Claude Code и Codex на четырех графических процессорах RTX PRO 6000. • Профиль запросов: в среднем около 124 тыс. входных токенов на запрос, с примерно 2,7 тыс. новых токенов; 97,82% попаданий в кэш в локальных логах этого пользователя. • Общая рабочая нагрузка: около 8,7 млрд входных токенов и 53 млн выходных токенов. • Ориентировочная стоимость API DeepSeek для того же трафика: около 86 долларов в непиковое время или 172 доллара в пиковое время, при условии, что API обеспечивает тот же уровень попаданий в кэш. • Сравнение оборудования: 64 000 долларов за четыре графических процессора по прейскурантной цене; Оценка не включает в себя остальные расходы на рабочую станцию, электроэнергию и другие эксплуатационные расходы. • Примеры локального оборудования включают Mac Studio с 512 ГБ памяти, две или четыре системы NVIDIA DGX Spark и рабочие станции с несколькими графическими процессорами RTX PRO 6000. • При наблюдаемой оценке API в непиковое время, для того чтобы стоимость API для этой рабочей нагрузки сравнялась со стоимостью API, потребуется примерно 9,4 года; это иллюстративный расчет окупаемости, а не общий прогноз ROI. Журнал трафика за 111 часов — это отчет одного разработчика, а не контролируемый бенчмарк или типичная рабочая нагрузка пользователя. Оценки API в 86 и 172 доллара — это расчеты, основанные на указанных DeepSeek ценах, и предполагают, что API соответствует локальному показателю попадания в кэш в 97,82%; поведение кэша DeepSeek для этой конкретной рабочей нагрузки не измерялось. Локальные скорости получены в результате отдельных тестов сообщества с различным оборудованием, программным обеспечением, длиной запросов и квантизацией, поэтому они не являются прямым сравнением. Результаты бенчмарков DeepSeek предоставлены компанией, а индекс искусственного анализа — это отдельная оценка. Цены на оборудование являются устаревшими оценками и могут меняться. Вы бы запускали агентов кодирования локально в целях конфиденциальности, или API по-прежнему является более выгодным вариантом? Сколько агентов вы запускаете параллельно? Расскажите мне в комментариях. Подпишитесь на канал Morgan's Code, чтобы получать подробные обзоры локальных моделей ИИ, агентов кодирования, бенчмарков и оборудования для их запуска: https://www.youtube.com/@MorgansCode?... Голос и синтез Оригинальный голос: CSTR VCTK Corpus 0.92, диктор p360, создан Кристофом Вео...