Перейти к содержимому

Стоит ли запускать локальный ИИ на Mac? Тестирую 6 повседневных задач

Daniel Morgan

0:00 / 0:00

Стоит ли запускать локальный ИИ на Mac? Тестирую 6 повседневных задач

18 просмотров · 3 ч назад
Daniel Morgan
1,94 тыс. подписчиков
18 просмотров · 3 ч назад
Стоит ли запускать локальный ИИ, или лучше платить 20 долларов в месяц? Я дал одни и те же шесть повседневных задач двум бесплатным моделям, работающим локально на моем Mac, и модели Claude Sonnet в облаке, а затем сравнил качество, скорость, конфиденциальность и стоимость. Если вы задавались вопросом, можно ли запустить ИИ локально на Mac вместо того, чтобы платить за ChatGPT или Claude, вы увидите, какие задачи я бы оставил на Mac, какие все же отправил бы в облако, и сколько памяти вам понадобится для этого. Дальнейшие шаги Платный раздел для участников, работа над которым еще продолжается, с более подробными видеороликами, пошаговыми инструкциями по настройке моих рабочих процессов и используемыми навыками (зарегистрируйтесь): https://ai.daniel-morgan.com/hub/ Небольшая группа в прямом эфире, посвященная использованию ИИ для экономии часов каждую неделю на работе, а также применению полученных навыков в домашней жизни (список ожидания, количество мест ограничено): https://ai.daniel-morgan.com/live-group/ Разделы 00:00 Бесплатно на вашем Mac или 20 долларов в месяц? 01:26 Моя конфигурация и шесть задач 02:14 Задача 1: электронное письмо 02:43 Задача 2: длинный отчет 03:12 Задача 3: банковские операции 03:45 Задача 4: фотография чека 04:19 Задача 5: небольшая корректировка кода 05:00 Задача 6: что запланировано на эти выходные 05:58 Оставить дома или отправить 06:41 Почему размер модели имеет значение 07:46 Скорость: как долго вы будете ждать? 09:36 Три типа открытых моделей 10:36 Сколько памяти вам нужно? 12:12 С каких моделей я бы начал 13:01 LM Studio или Ollama? 13:38 Конфиденциальность: что остается на вашем Mac 14:46 Работа в автономном режиме без ограничений 15:31 Реальная стоимость 17:04 Можете ли вы отменить свой план за 20 долларов? 17:44 Идем дальше 18:30 Итак, стоит ли использовать локальный ИИ? 19:57 Надежность и странная особенность 20:40 Уровень выше: оборудование промышленного класса 21:20 Если бы мне пришлось подвести итог 21:55 Модели, созданные для одной задачи Voce, приложение для транскрипции, о котором я упоминаю, — это мое собственное приложение. Оно работает на вашем устройстве. iPhone (Voce AI в App Store): https://apps.apple.com/gb/app/voce-ai... Mac (прямая загрузка с моего сайта): https://wiseforge.co.uk/voce.html Инструменты и исходные коды LM Studio, бесплатное приложение для запуска локальных моделей (его приложение Bionic также предлагает дополнительные облачные модели, поэтому проверьте, какую из них вы выбрали): https://lmstudio.ai Что LM Studio хранит на вашем устройстве, а что выводит в сеть: https://lmstudio.ai/docs/app/offline Рекомендации LM Studio по памяти: https://lmstudio.ai/docs/app/system-r... Инструмент командной строки LM Studio: https://lmstudio.ai/docs/cli Ollama: https://ollama.com Gemma 4 на Ollama, с облачными моделями, перечисленными рядом с локальными: https://ollama.com/library/gemma4/tags Qwen Размеры загружаемых файлов 3.8: https://ollama.com/library/qwen3.8/tags Где работают облачные модели Ollama: https://ollama.com/pricing Модель карты Qwen 3.8 27B: https://huggingface.co/Qwen/Qwen3.8-27B Модель карты Gemma 4 26B: https://huggingface.co/google/gemma-4... Тарифные планы Claude: https://claude.com/pricing Цены на Mac mini и Mac Studio: https://www.apple.com/newsroom/2026/0... Максимальная цена на электроэнергию в Великобритании: https://www.ofgem.gov.uk/your-energy-... Андрей Карпати о когнитивном ядре, стенограмма подкаста: https://www.dwarkesh.com/p/andrej-kar... Пост Андрея Карпати о когнитивном ядре: https://x.com/karpathy/status/1938626... Отчет Cohere о проблеме Qwen 3.8 (Cohere продает конкурирующие модели): https://cohere.com/blog/concerning-be... Reuters о том же тесте: https://www.thestar.com.my/tech/tech-... Упомянутые мной более крупные открытые модели: Kimi K3 https://huggingface.co/moonshotai/Kim..., Kimi K3.1 Pro https://huggingface.co/moonshotai/Kim... и GLM-5.3 https://huggingface.co/zai-org/GLM-5.3 Музыка создана с помощью Suno: https://suno.com В этом видео нет спонсированных материалов. Я сам оплачиваю Claude. Voce, хаб и группа в прямом эфире — мои собственные. Вы уже пробовали запускать модель на своем компьютере? А если нет, то какую задачу вы бы никогда не стали вставлять в ChatGPT или Claude? Напишите в комментариях. 💬 Социальные сети: 📱 TikTok:   / danpmorgan   📸 Instagram:   / danp.morgan   🕏 X: https://x.com/DanPMorgan #LocalAI #LMStudio #AITools