Руководство по настройке локального AI-сервера на Proxmox 9 — OpenWEBUI Ollama в LXC с пробросом GPU

В этом первом руководстве мы завершаем шаги по настройке базового локального сервера искусственного интеллекта на базе Proxmox 9 для графических процессоров Nvidia с использованием Ollama и OpenWEBUI. Это первая часть многосерийного цикла. Если вы хотите быстро развертывать новые проекты *ЕСЛИ У ВАС УСТАНОВЛЕНЫ ГП Nvidia BLACKWELL 50x0 серии, выберите версию MIT, а не проприетарную, во время установки.* Эти руководства следует выполнять в следующем порядке: ▶️ 📍ВЫ ЗДЕСЬ📍 Видео по Ollama OpenWebUI 📝 Статья по Ollama OpenWebUI https://digitalspaceport.com/how-to-s... ▶️ Видео по Llamacpp Unsloth    • Local Ai Server Setup Guides Proxmox 9 - L...   📝 Статья по Llamacpp Unsloth https://digitalspaceport.com/how-to-s... (Дополнительные руководства) ▶️ Видео vLLM    • Local Ai Server Setup Guides Proxmox 9 - L...   📝 Статья vLLM https://digitalspaceport.com/how-to-s... ▶️ Видео VibeVoice 7b TTS    • Microsoft Ai VibeVoice 7b TTS Voice Genera...   📝 Статья VibeVoice https://digitalspaceport.com/how-to-s... Видео о сборке AI-рига на базе Quad 3090 Ryzen 2025 Сборка с более дешевыми компонентами по сравнению со сборкой на базе EPYC:    • ULTIMATE Local AI Quad 3090 Build   Письменное руководство по сборке со всеми обновленными вариантами компонентов и результатами тестов AI-сервера: https://digitalspaceport.com/local-ai... Сборка домашнего сервера AI с четырьмя видеокартами 3090: Рама для GPU в стойке: https://geni.us/GPU_Rack_Frame Материнская плата Supermicro H12ssl-i (лучший вариант по сравнению с mz32-ar0): https://geni.us/MBD_H12SSL-I-O Материнская плата Gigabyte MZ32-AR0: https://geni.us/mz32-ar0_motherboard AMD 7V13 (новее, быстрее, чем 7702) https://geni.us/EPYC_7V13_CPU Видеокарта RTX 3090 24 ГБ (4 шт.) https://geni.us/GPU3090 Оперативная память DDR4 2400 256 ГБ (8 x 32 ГБ) https://geni.us/256GB_DDR4_RAM Райзеры PCIe4 (4 шт.) https://geni.us/PCIe4_Riser_Cable Воздушный кулер для AMD SP3 (удобнее, чем водяное охлаждение) https://geni.us/EPYC_SP3_COOLER Водяное охлаждение iCUE H170i https://geni.us/iCUE_H170i_Capellix (STRX4 подходит для SP3, комплект крепления входит в комплект CAPELLIX) Блок питания CORSAIR HX1500i https://geni.us/Corsair_HX1500iPSU 4i SFF-8654 до 4i SFF-8654 (x4, не требуется для H12SSL-i) https://geni.us/SFF8654_to_SFF8654 Термопаста ARCTIC MX4 https://geni.us/Arctic_ThermalPaste Термопрокладки для видеокарт Critical https://geni.us/Kritical-Thermal-Pads Винты для крепления вентиляторов к стойке для жестких дисков https://geni.us/HDD_RackScrews ▶️ Локальные серверные сборки для ИИ: Серверная сборка для ИИ с четырьмя видеокартами 3090    • INSANE Home AI Server - Quad 3090 Build   Плейлист    • Local Ai Server Builds   Способы поддержки: 🚀 Станьте участником, чтобы получить доступ к контенту только для участников и дополнительным привилегиям    / digitalspaceport   ☕ Поддержите меня, купив мне кофе: https://www.buymeacoffee.com/digitals... 🔳 Patreon:   / digitalspaceport   👍 Подпишитесь на канал: youtube.com/c/digitalspaceport?sub_co... 🌐 Посетите сайт: https://digitalspaceport.com Разделы 0:00 Полное руководство по настройке локального ИИ Proxmox LXC 0:45 Запись ISO-образа Proxmox на USB-накопитель 1:55 Настройки BIOS Proxmox 9 для процессора AMD 4:00 Установка Proxmox 9 ZFS в корневой каталог 7:11 Обзор Proxmox 9 8:40 Вспомогательные скрипты Proxmox после установки 13:19 Установка OpenWEBUI на Proxmox 18:32 Настройка Nvidia GPU Passthru LXC Proxmox 28:25 Добавление моделей в OpenWEBUI 31:26 Производительность GPT-OSS 20B 3090 32:56 Расширение хранилища ZFS ***** Как партнер Amazon, я получаю доход от соответствующих покупок. Когда вы переходите по ссылкам на различных продавцов на этом сайте и совершаете покупку, это может привести к тому, что этот сайт получит комиссию. Партнерские программы и аффилиации включают, помимо прочего, партнерскую сеть eBay. *****