Стоит ли запускать локальный ИИ на Mac? Тестирую 6 повседневных задач
Daniel Morgan
0:00 / 0:00
Стоит ли запускать локальный ИИ на Mac? Тестирую 6 повседневных задач
18 просмотров · 3 ч назад
Daniel Morgan
1,94 тыс. подписчиков
18 просмотров · 3 ч назад
Стоит ли запускать локальный ИИ, или лучше платить 20 долларов в месяц? Я дал одни и те же шесть повседневных задач двум бесплатным моделям, работающим локально на моем Mac, и модели Claude Sonnet в облаке, а затем сравнил качество, скорость, конфиденциальность и стоимость.
Если вы задавались вопросом, можно ли запустить ИИ локально на Mac вместо того, чтобы платить за ChatGPT или Claude, вы увидите, какие задачи я бы оставил на Mac, какие все же отправил бы в облако, и сколько памяти вам понадобится для этого.
Дальнейшие шаги
Платный раздел для участников, работа над которым еще продолжается, с более подробными видеороликами, пошаговыми инструкциями по настройке моих рабочих процессов и используемыми навыками (зарегистрируйтесь): https://ai.daniel-morgan.com/hub/
Небольшая группа в прямом эфире, посвященная использованию ИИ для экономии часов каждую неделю на работе, а также применению полученных навыков в домашней жизни (список ожидания, количество мест ограничено): https://ai.daniel-morgan.com/live-group/
Разделы
00:00 Бесплатно на вашем Mac или 20 долларов в месяц?
01:26 Моя конфигурация и шесть задач
02:14 Задача 1: электронное письмо
02:43 Задача 2: длинный отчет
03:12 Задача 3: банковские операции
03:45 Задача 4: фотография чека
04:19 Задача 5: небольшая корректировка кода
05:00 Задача 6: что запланировано на эти выходные
05:58 Оставить дома или отправить
06:41 Почему размер модели имеет значение
07:46 Скорость: как долго вы будете ждать?
09:36 Три типа открытых моделей
10:36 Сколько памяти вам нужно?
12:12 С каких моделей я бы начал
13:01 LM Studio или Ollama?
13:38 Конфиденциальность: что остается на вашем Mac
14:46 Работа в автономном режиме без ограничений
15:31 Реальная стоимость
17:04 Можете ли вы отменить свой план за 20 долларов?
17:44 Идем дальше
18:30 Итак, стоит ли использовать локальный ИИ?
19:57 Надежность и странная особенность
20:40 Уровень выше: оборудование промышленного класса
21:20 Если бы мне пришлось подвести итог
21:55 Модели, созданные для одной задачи
Voce, приложение для транскрипции, о котором я упоминаю, — это мое собственное приложение. Оно работает на вашем устройстве.
iPhone (Voce AI в App Store): https://apps.apple.com/gb/app/voce-ai...
Mac (прямая загрузка с моего сайта): https://wiseforge.co.uk/voce.html
Инструменты и исходные коды
LM Studio, бесплатное приложение для запуска локальных моделей (его приложение Bionic также предлагает дополнительные облачные модели, поэтому проверьте, какую из них вы выбрали): https://lmstudio.ai
Что LM Studio хранит на вашем устройстве, а что выводит в сеть: https://lmstudio.ai/docs/app/offline
Рекомендации LM Studio по памяти: https://lmstudio.ai/docs/app/system-r...
Инструмент командной строки LM Studio: https://lmstudio.ai/docs/cli
Ollama: https://ollama.com
Gemma 4 на Ollama, с облачными моделями, перечисленными рядом с локальными: https://ollama.com/library/gemma4/tags
Qwen Размеры загружаемых файлов 3.8: https://ollama.com/library/qwen3.8/tags
Где работают облачные модели Ollama: https://ollama.com/pricing
Модель карты Qwen 3.8 27B: https://huggingface.co/Qwen/Qwen3.8-27B
Модель карты Gemma 4 26B: https://huggingface.co/google/gemma-4...
Тарифные планы Claude: https://claude.com/pricing
Цены на Mac mini и Mac Studio: https://www.apple.com/newsroom/2026/0...
Максимальная цена на электроэнергию в Великобритании: https://www.ofgem.gov.uk/your-energy-...
Андрей Карпати о когнитивном ядре, стенограмма подкаста: https://www.dwarkesh.com/p/andrej-kar...
Пост Андрея Карпати о когнитивном ядре: https://x.com/karpathy/status/1938626...
Отчет Cohere о проблеме Qwen 3.8 (Cohere продает конкурирующие модели): https://cohere.com/blog/concerning-be...
Reuters о том же тесте: https://www.thestar.com.my/tech/tech-...
Упомянутые мной более крупные открытые модели: Kimi K3 https://huggingface.co/moonshotai/Kim..., Kimi K3.1 Pro https://huggingface.co/moonshotai/Kim... и GLM-5.3 https://huggingface.co/zai-org/GLM-5.3
Музыка создана с помощью Suno: https://suno.com
В этом видео нет спонсированных материалов. Я сам оплачиваю Claude. Voce, хаб и группа в прямом эфире — мои собственные.
Вы уже пробовали запускать модель на своем компьютере? А если нет, то какую задачу вы бы никогда не стали вставлять в ChatGPT или Claude? Напишите в комментариях.
💬 Социальные сети:
📱 TikTok: / danpmorgan
📸 Instagram: / danp.morgan
🕏 X: https://x.com/DanPMorgan
#LocalAI #LMStudio #AITools