Не покупайте Mac Studio M5 Ultra для локального ИИ (сделайте вот что)
Devsplainers
0:00 / 0:00
Не покупайте Mac Studio M5 Ultra для локального ИИ (сделайте вот что)
49 623 просмотра · 19 часов назад
Devsplainers
17,2 тыс. подписчиков
49 623 просмотра · 19 часов назад
Mac Studio M5 Ultra — это самый дешевый вариант с 256 ГБ быстрой памяти, который можно купить за деньги, и он все равно проигрывает открытой модели программирования. Вот локальные расчеты LLM, которые почти никто не проводит.
Один разработчик оценил четыре Mac Studio M5 Ultra в 45 000 долларов, чтобы избежать ежемесячных платежей в 800 долларов за подписку на Frontier Codewrap. После одной ночи комментариев он сохранил подписку и вместо нее добавил OpenRouter. В этом видео показаны реальные результаты на локальном оборудовании для ИИ по сравнению с теми же открытыми моделями, которые предоставляет кто-то другой: скорость предварительного заполнения и декодирования, кластеризация Thunderbolt с exo, амортизация и стоимость плана программирования GLM или DeepSeek для получения идентичных результатов. Более дешевый конкурент — это не план Frontier за 200 долларов, это та же открытая модель на чужих графических процессорах.
Хотите получать самые свежие новости на свою почту каждый вторник?
https://devsplainers.com/takeouts/
РАЗДЕЛЫ
00:00 Заказ на 45 000 долларов, отмененный за одну ночь
00:38 Почему M5 Ultra выглядит очевидным выбором
01:40 Предварительное заполнение против декодирования: две скорости, которые решают все
02:03 Kimi K3 на кластере Mac за 60 000 долларов: 4 часа против 15 минут
02:35 Что Apple на самом деле заявляет о производительности M5 AI
03:27 Четыре Mac, шесть кабелей Thunderbolt, одна проблема со стабильностью
04:11 Та же открытая модель, обслуживаемая в больших масштабах, за копейки
05:06 Почему размещенная копия также является лучшей копией
05:42 Расчет точки безубыточности, электроэнергия и жестокая стоимость перепродажи
06:43 Модели уменьшаются быстрее, чем обесценивается ваш компьютер
07:26 Единственный покупатель, к которому это действительно не относится
08:09 Что делать вместо покупки оборудования
ЧТО ЭТО ВИДЕО ОБЗОРЫ
• Почему агентное кодирование — наихудшая возможная рабочая нагрузка для Apple Silicon
• Предварительное заполнение (чтение подсказок) ограничено вычислительными ресурсами, декодирование (запись) — пропускной способностью
• Измеренная скорость локального LLM: 238 токенов/с при предварительном заполнении против 14,7 токенов/с при декодировании на кластере 512 ГБ
• Запуск Kimi K3 локально и почему сжатые сборки нарушают вызов инструментов
• Кластеризация exo Labs: совокупная пропускная способность 4,8 ТБ/с, объединенная каналом со скоростью в 10 раз ниже
• Весовые коэффициенты Hosted Open на OpenRouter, планы кодирования GLM и цены на DeepSeek V4 Flash
• Точка безубыточности за 4,2 года для Mac Studio за 9499 долларов с 256 ГБ памяти против плана за 200 долларов в месяц
• Реальность обмена Apple: M3 Ultra за 23 000 долларов, оцененный примерно в 10 раз дешевле
• Qwen 27B показывает результат в пределах одного балла GLM-5.2 в 27 раз меньше по размеру
• Локальный сервер ИИ имеет смысл только для тех покупателей, чьи данные по закону не могут покидать здание.
СТОИТ ЛИ ИСПОЛЬЗОВАТЬ MAC STUDIO ДЛЯ ЛОКАЛЬНОГО ИИ?
Для большинства разработчиков — нет. Mac Studio — это самый дешевый способ получить большой пул быстрой унифицированной памяти, что делает его привлекательным для локального запуска LLM. Но локальный вывод на Apple Silicon медленно обрабатывает длинные запросы, и агенты перечитывают весь свой контекст на каждом шагу. Аренда тех же открытых весов у хоста обеспечивает полную точность, обработку запросов на скорости GPU, параллельные агенты и отсутствие оборудования, которое нужно амортизировать. Покупайте сервер только тогда, когда конфиденциальность, соответствие требованиям или соглашение о неразглашении делают невозможной отправку вашего кода третьей стороне, или когда вы запускаете задачи в автоматическом режиме в течение ночи, где скорость не имеет значения.
ИСТОЧНИКИ
• r/MacStudio, «Думаю о покупке 4 Mac Studio M5 Ultra» (u/CWIII)
• Алекс Зискинд, «Я дал локальному ИИ и облаку совершенно одинаковую задачу» • I Gave Local AI and the Cloud the Exact Sa...
• RepoChad, «Mac Studio против 200 долларов в месяц за ИИ» • Mac Studio vs $200/Month For AI: Which Is ...
• Apple Newsroom и технические характеристики Mac Studio (25.08.2026)
• Apple MLX, «Изучение LLM с помощью MLX и нейронных ускорителей в графическом процессоре M5»
• Forbes, Джон Коэтсиер, «Может ли новый Mac Ultra от Apple заменить ваши 200 долларов в месяц за программирование ИИ?»
• Обсуждение кластеризации exo Labs на r/LocalLLaMA
• Документация Unsloth Dynamic 3.0 GGUF
• Hugging Face: модель карты moonshotai/Kimi-K3
• Цены на z.ai и тарифные планы GLM Coding Plan
• Цены на API DeepSeek
#LocalLLM #MacStudio #AICoding #M5Ultra #LocalAI