🔥 AMD EPYC 7763 + 256GB RAM — ЛОКАЛЬНЫЙ ИИ БЕЗ ВИДЕОКАРТЫ!
ABGREYD_ S
0:00 / 0:00
🔥 AMD EPYC 7763 + 256GB RAM — ЛОКАЛЬНЫЙ ИИ БЕЗ ВИДЕОКАРТЫ!
1 554 просмотра · 3 месяца назад
ABGREYD_ S
4,15 тыс. подписчиков
1 554 просмотра · 3 месяца назад
🚀 AMD EPYC 7763 + 256 ГБ ECC RAM — проверяем возможности серверной платформы для локального искусственного интеллекта.
Сможет ли 64-ядерный серверный процессор AMD EPYC 7763 запускать современные LLM-модели без видеокарты? В этом видео тестируем производительность системы в реальных задачах ИИ, запускаем Qwen3-VL-8B и Llama 70B, а также проводим серию популярных бенчмарков.
Конфигурация тестового стенда:
🔹 Материнская плата: Supermicro H12SSL-i
🔹 Процессор: AMD EPYC 7763 (64 ядра / 128 потоков)
🔹 Оперативная память: 256 ГБ DDR4 ECC Registered (8×32 ГБ, 3200 МГц)
🔹 Накопитель: Samsung SSD 990 PRO 1 ТБ (NVMe PCIe 4.0)
🔹 Кулер для процессора: Golden Leopard M99 (SP3 / EPYC)
🔹 Операционная система: Microsoft Windows 11 Pro x64
В видео:
✅ Обзор серверной платформы AMD EPYC
✅ Запуск современных языковых моделей (LLM)
✅ Тестирование Qwen3-VL-8B и Llama 70B
✅ Бенчмарки llama.cpp и llama-bench
✅ Cinebench 2024
✅ Cinebench 2026
✅ PassMark PerformanceTest
✅ Скорость обработки промптов и генерации токенов
✅ Работа больших моделей без GPU
✅ Реальная производительность серверного процессора в задачах искусственного интеллекта
Результаты тестирования ИИ:
📊 Qwen3-VL-8B Q4_K_M
• До 277 токенов/с при обработке промпта (PP512)
• До 9 токенов/с при генерации (TG128)
📊 Llama 70B Q4_K_M
• До 28 токенов/с при обработке промпта (PP512)
• Около 1 токена/с при генерации (TG128)
Дополнительные тесты производительности:
🎬 Cinebench 2024
🎬 Cinebench 2026
📈 PassMark PerformanceTest
Эти тесты позволяют оценить не только производительность системы в задачах искусственного интеллекта, но и её возможности для рендеринга, виртуализации, программирования, инженерных расчётов и профессиональных рабочих нагрузок.
Система демонстрирует отличные результаты для локального запуска современных нейросетей, обработки документов, программирования, анализа данных и других задач искусственного интеллекта без использования дискретной видеокарты.
AMD EPYC 7763 остаётся одним из самых интересных процессоров для создания мощной рабочей станции или сервера под локальные LLM-модели благодаря 64 ядрам, 128 потокам и поддержке большого объёма оперативной памяти ECC.
💬 Напишите в комментариях:
Какие модели протестировать следующими? DeepSeek, Qwen, Llama, Gemma или другие LLM?
👍 Если видео оказалось полезным — поддержите канал лайком и подпиской!
🔗 Ссылка на комплект:
https://abgreyd.servis2010.ru/supermi...
🔗 Кулер Golden Leopard M99:
https://abgreyd.servis2010.ru/golden-...
📢 Всё самое интересное. Самые востребованные и актуальные сборки и комплекты в Telegram:
https://t.me/abgteyd
👥 Мы ВКонтакте:
https://vk.com/club60287728
🎵 TikTok:
/ abgreyd_s
💬 Мы в MAX:
https://max.ru/id235209546437_biz
📺 Мы на RUTUBE:
https://rutube.ru/channel/23325742/
━━━━━━━━━━━━━━━━━━━━━━
📧 E-mail:
abgreyd_s@servis2010.ru
━━━━━━━━━━━━━━━━━━━━━━
#AMD #EPYC7763 #AMD_EPYC #Supermicro #AI #ИИ #LocalAI #LLM #Llama70B #Qwen3 #Qwen3VL #llamacpp #Cinebench #PassMark #Benchmark #Server #Homelab #MachineLearning #ArtificialIntelligence #DeepSeek