拆解本地AI推理基本流程，寻找硬件瓶颈，CPU/内存/SSD/主板/显卡等硬件哪些参数可以妥协，哪些必须重视，从而采购合适的AI硬件！

视频文稿和资料：https://lcz.me/topic/2806 本期从主板、CPU、内存、硬盘和显卡的基本结构讲起，顺着 AI 大模型的运行流程，聊聊本地跑模型时数据如何从硬盘加载到内存，再进入显卡显存参与推理。买硬件时哪些环节可以省、哪些性能不能忽视？视频重点分析 SSD、内存、PCIe、显存带宽和 GPU 算力在不同任务中的作用。 模型能完整放进一张显卡时，硬件架构相对简单；遇到百 GB 级别的 MoE 模型，就可能需要多卡并行，并通过 PCIe、CPU、内存或 P2P 完成数据交互。显卡性能也不能只看算力：以 4090 48G 和 5090 为例，即使算力解锁，显存带宽和软件生态仍会影响实际表现。多卡配置则要留意主板 PCIe 通道分配、带宽，以及显卡之间能否直接通信。 视频也聊到预算有限时的搭配思路，包括 X99 平台、DDR3 内存和不同显卡组合，并结合双卡运行大模型及 MiniMax H3 视频模型的经验，讨论如何利用现有硬件减少投入、尽早开始工作。具体方案还要结合手头设备和实际测试选择，欢迎分享你的配置与使用体验。