Перейти к содержимому

Хотите запускать ИИ-агентов локально? Вот минимальный набор необходимых настроек/сборок.

Daniel Jindoo

0:00 / 0:00

Хотите запускать ИИ-агентов локально? Вот минимальный набор необходимых настроек/сборок.

698 216 просмотров · 6 месяцев назад
Daniel Jindoo
37,8 тыс. подписчиков
698 216 просмотров · 6 месяцев назад
🟢 Внимание! Обновленная версия здесь:    • The Bare Minimum Setup You Need to Run AI ...   🟠 Присоединяйтесь к еженедельному курсу HomeLab 101 с более чем 350 участниками: https://openinapp.link/et82t 🔴 Присоединяйтесь к операторам:    / @jinni_doo   🔴 Новостная рассылка для владельцев малого и среднего бизнеса: danieljindoo.substack.com Создание мощного ПК для локальных ИИ-агентов требует иного подхода, чем типичная игровая конфигурация. Мы сосредоточимся на конкретном оборудовании, особенно на видеопамяти видеокарты, которая имеет решающее значение для эффективного запуска локального ИИ-агента. В этом видео вы узнаете, как собрать ПК, оптимизированный для ИИ, с акцентом на такие компоненты, как RTX 4060 Ti с 16 ГБ видеопамяти, и как использовать Ollama для работы с ИИ через командную строку. Забудьте о моделях на основе облачных вычислений; откройте для себя возможности собственной сборки ПК. Видеопамять (VRAM) — это важнейший параметр для любой локальной сборки ПК для ИИ, и многие покупают не ту видеокарту именно из-за этого. В этом видео я подробно расскажу о необходимом оборудовании в 3 ценовых категориях (от 1200 до 5000 долларов и выше) для локального запуска таких моделей, как Qwen3, DeepSeek R1 и Llama, с помощью Ollama, охватывая как ПК, так и Mac. Я также расскажу, какие форматы моделей использовать (GGUF против AWQ), как работает квантизация и почему локальный ИИ — это лучший выбор для обеспечения конфиденциальности, контроля затрат и бесперебойной работы в 2026 году. Независимо от того, используете ли вы помощников по программированию на основе ИИ, анализируете документы или создаете рабочие процессы агентов с помощью n8n, это руководство покажет вам, что именно нужно купить, а что лучше пропустить. Временные метки: 00:00 Самая важная характеристика GPU 00:30 Объяснение VRAM: аналогия с кухонной столешницей 01:02 Что происходит при локальном запуске ИИ 02:09 Как 4-битное квантование уменьшает модели ИИ 02:30 Шпаргалка по VRAM: размер модели в ГБ 03:27 Сборка первого уровня: стартовый набор за 1200-1500 долларов 05:12 Mac против PC для локального ИИ: унифицированная память 06:48 Сборка второго уровня: серьезный набор за 2000-3500 долларов 09:14 Сборка третьего уровня: режим "зверя" за 3500-5000+ долларов 11:00 RTX 5090 и двухпроцессорные конфигурации 11:21 Можно ли запустить ИИ на Raspberry Pi? 11:59 Ollama против LM Studio: что выбрать 12:49 GGUF против AWQ: выбор правильного формата модели 13:52 Локальный ИИ против облачного ИИ: честное сравнение 15:42 Резюме: что купить при любом бюджете #LocalAI #AIBuild #VRAM НАЙДИТЕ МЕНЯ В СОЦИАЛЬНЫХ СЕТЯХ X/Twitter: / https://x.com/Jdaniel1216_ Instagram: /   / jinni_doo   LinkedIn: /   / hyoungjin-doo-a19394238   Веб-сайт: / https://doomade.com/