Локальный ИИ на Unraid: то, о чем никто не рассказывает

Локальный ИИ на вашем сервере Unraid — это не только чат-боты, это генерация изображений, музыка, клонирование голоса, распознавание фотографий, автоматическая транскрипция и многое другое, и всё это работает на оборудовании, которое у вас уже есть. Но с чего же начать? В этом видео я подробно расскажу о локальном ИИ для пользователей Unraid. Что это такое на самом деле, два совершенно разных типа, которые вы можете запустить, и какое оборудование вам действительно нужно для начала работы. Это не руководство по настройке. Воспринимайте это как свою ментальную карту локального ИИ, чтобы, когда вы начнете устанавливать что-либо, вы действительно понимали, что делаете и зачем. Мы рассмотрим генеративный и предиктивный ИИ, три причины, по которым люди запускают ИИ локально (конфиденциальность, стоимость, контроль), реальные рабочие примеры на моем собственном сервере и полный обзор уровней оборудования от процессора до высокопроизводительной видеокарты, включая то, какую карту я бы рекомендовал купить в первую очередь и почему. Ключевые ссылки 🔗 Frigate (видеорегистратор с открытым исходным кодом и обнаружением объектов с помощью ИИ): https://frigate.video 🔗 Демонстрация Frigate в реальном времени: https://demo.frigate.video 🔗 Speaches (контейнер Whisper + Kokoro): https://speaches.ai 🔗 Ollama: https://ollama.com 🔗 Open WebUI: https://openwebui.com 🔗 ComfyUI: https://github.com/comfyanonymous/Com... ▶️ Похожие видео на канале. 🔗 A-Eye (локальное переименование фотографий с помощью ИИ):    • This AI Analyses Your Photos, Renames Them...   🔗 Paperless AI (автоматическая разметка документов):    • Install Ollama & AI Models for Paperless N...   💬 Хотите, чтобы я снял продолжение, в котором протестирую все эти видеокарты с помощью подходящего программного обеспечения для тестирования производительности на основе ИИ? Оставьте комментарий ниже и дайте мне знать. Рекомендации по оборудованию USB Edge TPU ML Accelerator: https://amzn.to/4tMBlzV NVIDIA RTX 3060 12GB: https://amzn.to/3PwVuM8 NVIDIA RTX 5070: https://amzn.to/3RizUvG ⏱️ Временные метки 0:00 - Вступление: что на самом деле может делать локальный ИИ 2:13 - Приветствие и что это за видео (и чем оно не является) 2:20 - Всё, что вы только что видели, было сгенерировано локально 2:33 - Что такое локальный ИИ? Конфиденциальность, стоимость, контроль 3:00 - Генеративный и предиктивный ИИ: объяснение 3:25 - Демонстрация Frigate (предиктивный ИИ в действии) 5:02 - Google Coral и периферийный ИИ 5:22 - Краткий совет: USB Coral против PCIe Coral 5:50 - A-Eye: когда предиктивному ИИ нужен графический процессор 6:35 - Whisper + Kokoro в одном контейнере (Speaches) 7:53 - Веб-интерфейсы против API: как локальные инструменты ИИ объединяются в цепочку 8:18 - OpenClaw: мой собственный голосовой помощник, построенный на Signal 9:50 - Ollama и Open WebUI для чат-ботов 10:50 - ComfyUI для генерации изображений 11:34 - Итак, какое оборудование вам действительно нужно? 12:00 - Видеопамять, оперативная память и скорость оперативной памяти для ИИ 14:02 - Уровень ЦП 15:08 - Уровень интегрированных графических процессоров 16:07 - Дискретные графические процессоры: линейка на бенчмарке 17:01 - Видео с бенчмарком (призыв к действию) 18:38 - Почему RTX 3060 12 ГБ — оптимальный вариант 20:22 - Другие карты Nvidia (2060, 2080 Ti, 5070, 5090) 22:06 - AMD и ROCm 22:43 - Intel Arc Pro B-серии для локального ИИ 23:30 - Краткий обзор Edge AI 24:15 - Небольшой секрет этого видео... Что вы будете создавать с помощью Unraid? Начните работу с Unraid за 15 минут или меньше: https://unraid.net/getting-started Некоторые из ссылок ниже являются партнерскими ссылками, это означает, что мы можем получить комиссию, если вы перейдете по ссылке и совершите покупку.