Хотите запускать ИИ-агентов локально? Вот минимальный набор необходимых настроек/сборок.
Daniel Jindoo
0:00 / 0:00
Хотите запускать ИИ-агентов локально? Вот минимальный набор необходимых настроек/сборок.
698 216 просмотров · 6 месяцев назад
Daniel Jindoo
37,8 тыс. подписчиков
698 216 просмотров · 6 месяцев назад
🟢 Внимание! Обновленная версия здесь: • The Bare Minimum Setup You Need to Run AI ...
🟠 Присоединяйтесь к еженедельному курсу HomeLab 101 с более чем 350 участниками: https://openinapp.link/et82t
🔴 Присоединяйтесь к операторам: / @jinni_doo
🔴 Новостная рассылка для владельцев малого и среднего бизнеса: danieljindoo.substack.com
Создание мощного ПК для локальных ИИ-агентов требует иного подхода, чем типичная игровая конфигурация. Мы сосредоточимся на конкретном оборудовании, особенно на видеопамяти видеокарты, которая имеет решающее значение для эффективного запуска локального ИИ-агента. В этом видео вы узнаете, как собрать ПК, оптимизированный для ИИ, с акцентом на такие компоненты, как RTX 4060 Ti с 16 ГБ видеопамяти, и как использовать Ollama для работы с ИИ через командную строку. Забудьте о моделях на основе облачных вычислений; откройте для себя возможности собственной сборки ПК.
Видеопамять (VRAM) — это важнейший параметр для любой локальной сборки ПК для ИИ, и многие покупают не ту видеокарту именно из-за этого. В этом видео я подробно расскажу о необходимом оборудовании в 3 ценовых категориях (от 1200 до 5000 долларов и выше) для локального запуска таких моделей, как Qwen3, DeepSeek R1 и Llama, с помощью Ollama, охватывая как ПК, так и Mac.
Я также расскажу, какие форматы моделей использовать (GGUF против AWQ), как работает квантизация и почему локальный ИИ — это лучший выбор для обеспечения конфиденциальности, контроля затрат и бесперебойной работы в 2026 году.
Независимо от того, используете ли вы помощников по программированию на основе ИИ, анализируете документы или создаете рабочие процессы агентов с помощью n8n, это руководство покажет вам, что именно нужно купить, а что лучше пропустить.
Временные метки:
00:00 Самая важная характеристика GPU
00:30 Объяснение VRAM: аналогия с кухонной столешницей
01:02 Что происходит при локальном запуске ИИ
02:09 Как 4-битное квантование уменьшает модели ИИ
02:30 Шпаргалка по VRAM: размер модели в ГБ
03:27 Сборка первого уровня: стартовый набор за 1200-1500 долларов
05:12 Mac против PC для локального ИИ: унифицированная память
06:48 Сборка второго уровня: серьезный набор за 2000-3500 долларов
09:14 Сборка третьего уровня: режим "зверя" за 3500-5000+ долларов
11:00 RTX 5090 и двухпроцессорные конфигурации
11:21 Можно ли запустить ИИ на Raspberry Pi?
11:59 Ollama против LM Studio: что выбрать
12:49 GGUF против AWQ: выбор правильного формата модели
13:52 Локальный ИИ против облачного ИИ: честное сравнение
15:42 Резюме: что купить при любом бюджете
#LocalAI #AIBuild #VRAM
НАЙДИТЕ МЕНЯ В СОЦИАЛЬНЫХ СЕТЯХ
X/Twitter: / https://x.com/Jdaniel1216_
Instagram: / / jinni_doo
LinkedIn: / / hyoungjin-doo-a19394238
Веб-сайт: / https://doomade.com/