Перейти к содержимому

Не покупайте Mac Studio M5 Ultra для локального ИИ (сделайте вот что)

Devsplainers

0:00 / 0:00

Не покупайте Mac Studio M5 Ultra для локального ИИ (сделайте вот что)

49 623 просмотра · 19 часов назад
Devsplainers
17,2 тыс. подписчиков
49 623 просмотра · 19 часов назад
Mac Studio M5 Ultra — это самый дешевый вариант с 256 ГБ быстрой памяти, который можно купить за деньги, и он все равно проигрывает открытой модели программирования. Вот локальные расчеты LLM, которые почти никто не проводит. Один разработчик оценил четыре Mac Studio M5 Ultra в 45 000 долларов, чтобы избежать ежемесячных платежей в 800 долларов за подписку на Frontier Codewrap. После одной ночи комментариев он сохранил подписку и вместо нее добавил OpenRouter. В этом видео показаны реальные результаты на локальном оборудовании для ИИ по сравнению с теми же открытыми моделями, которые предоставляет кто-то другой: скорость предварительного заполнения и декодирования, кластеризация Thunderbolt с exo, амортизация и стоимость плана программирования GLM или DeepSeek для получения идентичных результатов. Более дешевый конкурент — это не план Frontier за 200 долларов, это та же открытая модель на чужих графических процессорах. Хотите получать самые свежие новости на свою почту каждый вторник? https://devsplainers.com/takeouts/ РАЗДЕЛЫ 00:00 Заказ на 45 000 долларов, отмененный за одну ночь 00:38 Почему M5 Ultra выглядит очевидным выбором 01:40 Предварительное заполнение против декодирования: две скорости, которые решают все 02:03 Kimi K3 на кластере Mac за 60 000 долларов: 4 часа против 15 минут 02:35 Что Apple на самом деле заявляет о производительности M5 AI 03:27 Четыре Mac, шесть кабелей Thunderbolt, одна проблема со стабильностью 04:11 Та же открытая модель, обслуживаемая в больших масштабах, за копейки 05:06 Почему размещенная копия также является лучшей копией 05:42 Расчет точки безубыточности, электроэнергия и жестокая стоимость перепродажи 06:43 Модели уменьшаются быстрее, чем обесценивается ваш компьютер 07:26 Единственный покупатель, к которому это действительно не относится 08:09 Что делать вместо покупки оборудования ЧТО ЭТО ВИДЕО ОБЗОРЫ • Почему агентное кодирование — наихудшая возможная рабочая нагрузка для Apple Silicon • Предварительное заполнение (чтение подсказок) ограничено вычислительными ресурсами, декодирование (запись) — пропускной способностью • Измеренная скорость локального LLM: 238 токенов/с при предварительном заполнении против 14,7 токенов/с при декодировании на кластере 512 ГБ • Запуск Kimi K3 локально и почему сжатые сборки нарушают вызов инструментов • Кластеризация exo Labs: совокупная пропускная способность 4,8 ТБ/с, объединенная каналом со скоростью в 10 раз ниже • Весовые коэффициенты Hosted Open на OpenRouter, планы кодирования GLM и цены на DeepSeek V4 Flash • Точка безубыточности за 4,2 года для Mac Studio за 9499 долларов с 256 ГБ памяти против плана за 200 долларов в месяц • Реальность обмена Apple: M3 Ultra за 23 000 долларов, оцененный примерно в 10 раз дешевле • Qwen 27B показывает результат в пределах одного балла GLM-5.2 в 27 раз меньше по размеру • Локальный сервер ИИ имеет смысл только для тех покупателей, чьи данные по закону не могут покидать здание. СТОИТ ЛИ ИСПОЛЬЗОВАТЬ MAC STUDIO ДЛЯ ЛОКАЛЬНОГО ИИ? Для большинства разработчиков — нет. Mac Studio — это самый дешевый способ получить большой пул быстрой унифицированной памяти, что делает его привлекательным для локального запуска LLM. Но локальный вывод на Apple Silicon медленно обрабатывает длинные запросы, и агенты перечитывают весь свой контекст на каждом шагу. Аренда тех же открытых весов у хоста обеспечивает полную точность, обработку запросов на скорости GPU, параллельные агенты и отсутствие оборудования, которое нужно амортизировать. Покупайте сервер только тогда, когда конфиденциальность, соответствие требованиям или соглашение о неразглашении делают невозможной отправку вашего кода третьей стороне, или когда вы запускаете задачи в автоматическом режиме в течение ночи, где скорость не имеет значения. ИСТОЧНИКИ • r/MacStudio, «Думаю о покупке 4 Mac Studio M5 Ultra» (u/CWIII) • Алекс Зискинд, «Я дал локальному ИИ и облаку совершенно одинаковую задачу»    • I Gave Local AI and the Cloud the Exact Sa...   • RepoChad, «Mac Studio против 200 долларов в месяц за ИИ»    • Mac Studio vs $200/Month For AI: Which Is ...   • Apple Newsroom и технические характеристики Mac Studio (25.08.2026) • Apple MLX, «Изучение LLM с помощью MLX и нейронных ускорителей в графическом процессоре M5» • Forbes, Джон Коэтсиер, «Может ли новый Mac Ultra от Apple заменить ваши 200 долларов в месяц за программирование ИИ?» • Обсуждение кластеризации exo Labs на r/LocalLLaMA • Документация Unsloth Dynamic 3.0 GGUF • Hugging Face: модель карты moonshotai/Kimi-K3 • Цены на z.ai и тарифные планы GLM Coding Plan • Цены на API DeepSeek #LocalLLM #MacStudio #AICoding #M5Ultra #LocalAI