陕西楞娃 | 16张V100堆出512G显存机柜,我照抄的账算完了:净投入6千显存翻倍(第38集)
陕西楞娃
0:00 / 0:00
陕西楞娃 | 16张V100堆出512G显存机柜,我照抄的账算完了:净投入6千显存翻倍(第38集)
3 просмотра · 21 ч назад
陕西楞娃
6 подписчиков
3 просмотра · 21 ч назад
Winintel 那条视频把 16 张 V100 SXM2 32G 拼成 512G 显存机柜,号称跑满血 DeepSeek 的唯一低成本方案。这一集先拆他的方案:其实蓝本是 2018 年的 DGX-2,贵的是底板、NVSwitch 背板和 6–10kW 的电,卡反而最便宜。然后拿我自己的机器实测数据算账:X99 洋垃圾平台 + 2×V100 SXM2 16G,71GB 权重塞 32GB 显存、NVLink 被转接板切断、三天冻五次——512G 路线三道墙全部撞死。最后给出三条路线的可行性判定和推荐:卖掉手里两张 16G,换两张 32G,净投入约六千,显存翻倍到 64GB,告别 CPU offload。
主线:博主方案拆解 → DGX-2 蓝本对照 → 四项成本结构 → 本机实测牌面 → 71GB vs 32GB 的真实瓶颈 → NVLink 证据链 → 三道否决墙 → 16G×4≠32G×2 → SM70 软件栈三座大山 → 路线A推荐 → B/C适用边界 → 结论
陕西愣娃谈技术 · 第 38 集
视频由strata + 两张v100 + 洋垃圾主板和cpu生成
环境:JGINYUE X99-TI D3 PLUS / E5-2666 v3 / 128GB DDR3 REG / 2×Tesla V100 SXM2 16G(转接板)/ Strata 推理引擎
行情参考:闲鱼 2026-11(V100 16G PCIe ¥1200–1800,SXM2 拆机 ¥600–1400,32G ¥4200–4800)
三个问题留给你:
1. 你的机器里,权重和显存的比值是多少?offload 占了多少内存?
2. 你那边 32G V100 现在什么价?比今年三月涨了多少?
3. 如果换平台,你觉得 X99 之上最划算的下一跳是什么?
#V100 #显存 #DGX2 #垃圾佬 #本地大模型 #DeepSeek #LLM推理 #洋垃圾服务器