Ускорение LLM?? AMD High-Bandwidth Cache Controller на Vega HBM2

«Если вы что-нибудь купите по этим ссылкам, этот парень может получить небольшую комиссию — достаточно, чтобы купить печенье — без дополнительных затрат для вас!» ** Действительно ли контроллер кэша высокой пропускной способности AMD (HBCC) повышает производительность больших языковых моделей на старых графических процессорах? В этом видео мы тестируем 16-гигабайтную AMD Radeon Vega Frontier Edition на нашей любимой рабочей станции HP Z4 G4! Мы тестируем локальные LLM с использованием Vulkan, чтобы выяснить, действительно ли функции страничной организации памяти HBCC помогают запускать большие модели, или это просто миф для современных задач ИИ. Сначала мы тестируем Qwen3-14b, а затем пробуем Qwen3.8-27b. 💻 ХАРАКТЕРИСТИКИ ТЕСТОВОЙ СИСТЕМЫ: • Рабочая станция: HP Z4 G4 • Процессор: Intel Core i9-7900X (10 ядер / 20 потоков) • Видеокарта: AMD Radeon Vega Frontier Edition (16 ГБ HBM2 VRAM) • Оперативная память: 32 ГБ DDR4 (четырехканальная) ⏱️ ВРЕМЕННЫЕ МЕТКИ: 0:00 - Вступление 2:39 - Начальная загрузка / тестовый стенд 4:37 - Первый тест LLM 7:01 - Обновление выходного дня 7:33 - Дальнейшее тестирование HBCC отключен 8:33 - Тестирование Qwen3.8 10:28 - Заключение Если вам понравилось видео, не забудьте поставить ЛАЙК и ПОДПИСАТЬСЯ, чтобы получать больше видео о бюджетной технике, экспериментах с ИИ и тестах рабочих станций! eBay: Vega Frontier: https://ebay.us/WEHoD6 eBay: Radeon VII: https://ebay.us/qI2Xji eBay: Vega56 / 64: https://ebay.us/MXYkf7 eBay: Mi50: https://ebay.us/eTPukN eBay: Mi25: https://ebay.us/WAl6hn ** https://countryboycomputersbg.com/bud... https://countryboycomputersbg.com/ discord.gg/3cUNWaf5hX #AMD #Vega #HBCC #LLM #LocalAI #HPZ4G4 #TechBench #Ollama #LlamaCPP #pchardware