Перейти к содержимому

🔥 AMD EPYC 7763 + 256GB RAM — ЛОКАЛЬНЫЙ ИИ БЕЗ ВИДЕОКАРТЫ!

ABGREYD_ S

0:00 / 0:00

🔥 AMD EPYC 7763 + 256GB RAM — ЛОКАЛЬНЫЙ ИИ БЕЗ ВИДЕОКАРТЫ!

1 554 просмотра · 3 месяца назад
ABGREYD_ S
4,15 тыс. подписчиков
1 554 просмотра · 3 месяца назад
🚀 AMD EPYC 7763 + 256 ГБ ECC RAM — проверяем возможности серверной платформы для локального искусственного интеллекта. Сможет ли 64-ядерный серверный процессор AMD EPYC 7763 запускать современные LLM-модели без видеокарты? В этом видео тестируем производительность системы в реальных задачах ИИ, запускаем Qwen3-VL-8B и Llama 70B, а также проводим серию популярных бенчмарков. Конфигурация тестового стенда: 🔹 Материнская плата: Supermicro H12SSL-i 🔹 Процессор: AMD EPYC 7763 (64 ядра / 128 потоков) 🔹 Оперативная память: 256 ГБ DDR4 ECC Registered (8×32 ГБ, 3200 МГц) 🔹 Накопитель: Samsung SSD 990 PRO 1 ТБ (NVMe PCIe 4.0) 🔹 Кулер для процессора: Golden Leopard M99 (SP3 / EPYC) 🔹 Операционная система: Microsoft Windows 11 Pro x64 В видео: ✅ Обзор серверной платформы AMD EPYC ✅ Запуск современных языковых моделей (LLM) ✅ Тестирование Qwen3-VL-8B и Llama 70B ✅ Бенчмарки llama.cpp и llama-bench ✅ Cinebench 2024 ✅ Cinebench 2026 ✅ PassMark PerformanceTest ✅ Скорость обработки промптов и генерации токенов ✅ Работа больших моделей без GPU ✅ Реальная производительность серверного процессора в задачах искусственного интеллекта Результаты тестирования ИИ: 📊 Qwen3-VL-8B Q4_K_M • До 277 токенов/с при обработке промпта (PP512) • До 9 токенов/с при генерации (TG128) 📊 Llama 70B Q4_K_M • До 28 токенов/с при обработке промпта (PP512) • Около 1 токена/с при генерации (TG128) Дополнительные тесты производительности: 🎬 Cinebench 2024 🎬 Cinebench 2026 📈 PassMark PerformanceTest Эти тесты позволяют оценить не только производительность системы в задачах искусственного интеллекта, но и её возможности для рендеринга, виртуализации, программирования, инженерных расчётов и профессиональных рабочих нагрузок. Система демонстрирует отличные результаты для локального запуска современных нейросетей, обработки документов, программирования, анализа данных и других задач искусственного интеллекта без использования дискретной видеокарты. AMD EPYC 7763 остаётся одним из самых интересных процессоров для создания мощной рабочей станции или сервера под локальные LLM-модели благодаря 64 ядрам, 128 потокам и поддержке большого объёма оперативной памяти ECC. 💬 Напишите в комментариях: Какие модели протестировать следующими? DeepSeek, Qwen, Llama, Gemma или другие LLM? 👍 Если видео оказалось полезным — поддержите канал лайком и подпиской! 🔗 Ссылка на комплект: https://abgreyd.servis2010.ru/supermi... 🔗 Кулер Golden Leopard M99: https://abgreyd.servis2010.ru/golden-... 📢 Всё самое интересное. Самые востребованные и актуальные сборки и комплекты в Telegram: https://t.me/abgteyd 👥 Мы ВКонтакте: https://vk.com/club60287728 🎵 TikTok:   / abgreyd_s   💬 Мы в MAX: https://max.ru/id235209546437_biz 📺 Мы на RUTUBE: https://rutube.ru/channel/23325742/ ━━━━━━━━━━━━━━━━━━━━━━ 📧 E-mail: abgreyd_s@servis2010.ru ━━━━━━━━━━━━━━━━━━━━━━ #AMD #EPYC7763 #AMD_EPYC #Supermicro #AI #ИИ #LocalAI #LLM #Llama70B #Qwen3 #Qwen3VL #llamacpp #Cinebench #PassMark #Benchmark #Server #Homelab #MachineLearning #ArtificialIntelligence #DeepSeek