貴 2.5 倍的卡,跑得比較慢:Qwen3.8-27B 三種顯存實測
本機窯 / LOCAL KILN
0:00 / 0:00
貴 2.5 倍的卡,跑得比較慢:Qwen3.8-27B 三種顯存實測
146 просмотров · 5 дн. назад
本機窯 / LOCAL KILN
26 подписчиков
146 просмотров · 5 дн. назад
同一個模型、同一組參數,只換顯存配置,速度差多少?
我把 Qwen3.8-27B(Q4_K_M)分別在三種配置上實測:
· RX 7900 XTX 24GB(二手 NT$20,000) → 30.72 tok/s
· Radeon AI PRO R9700 32GB(新品 NT$50,000) → 28.00 tok/s
· 雙卡合計 56GB → 23.99 tok/s
結果推翻了我原本的直覺:
*貴 2.5 倍的卡比較慢,而且兩張卡比一張慢。*
這一集我會解釋為什麼,以及什麼情況下雙卡才真的有意義。
⚠️ 測試條件完整公開:Vulkan 後端、400 tokens 輸出、8192 context、單次測量。
不同後端(HIP / Vulkan)數字會不同。
⏱ 章節
00:00 開場:一個反直覺的結果
00:35 三組實測數據
01:37 發現一:便宜的卡比較快
02:39 發現二:雙卡比較慢
03:45 這推翻了什麼直覺
04:20 結論
📺 完整系列
窯體(本機窯)