500块的“私人AI算力中心”?实测拆坑:显卡至少12G,CPU必须强
陕西楞娃
0:00 / 0:00
500块的“私人AI算力中心”?实测拆坑:显卡至少12G,CPU必须强
12 просмотров · 1 дн. назад
陕西楞娃
5 подписчиков
12 просмотров · 1 дн. назад
刷到一条抖音:用 5090 显卡 1% 的预算,500 块搓一台"全天候待命的私人 AI 算力中心"。画面和解说一一对应,做得确实好。但 i3-4170、P106 矿卡、鞋盒装机这套配方,我们用自己的机器实测过——新手照着装,坑跳不完。这一集逐句拆它,然后给出真实门槛。
【实测要点】
CPU 不是看大门的:卸载方案要 AVX2+FMA,E3-1275 V2 直接报错"CPU expert kernels need";LGA1155 全系无 AVX2,换 CPU 连主板一起换
8G 显存装不进 35B:dense 4.40 GiB 硬占,建完上下文只剩 1.67 GiB,全套省显存组合拳只把空闲抬到 1.96 GiB——激活参数小省的是计算量,不是显存
"跑起来"≠"能干":llama.cpp 14 token/s 真实,但 agent 问"你好"就卡死——默认 4096 上下文,工具 schema 吃掉几千 token
矿卡三重硬伤:满载一百多瓦、风扇拆过无视频输出、PCIe 硬件锁死 x4 Gen1(PCB 级别,刷 VBIOS 解不开)
失败模式是安静的:引擎不崩给你看,静默把层留在内存慢跑——速度腰斩但没报错
【新手配置线】
1️⃣ 显卡最少 12G:官方实测 35B-A3B 最小卡 RTX 3060 12GB;8G 安全区只有 Qwen2.5-7B(权重+KV≈6.5GB)
2️⃣ CPU 必须强:AVX2 起步、多核、双通道内存 ≥32G——Haswell 之后都够入场
3️⃣ 预算不够的正确姿势:两张便宜卡凑 16G 显存池,模型体积按显存反推,别赌"一键整合包"
【时间轴】
00:00 刷到一条很上头的抖音:500 块搓私人 AI 算力中心
00:26 先把它的配方念一遍:i3-4170 / B85 / P106 / 鞋盒
00:56 坑一:CPU 不是看大门的——AVX2 报错实录
01:29 坑二:8G 装不进 35B——1.67 GiB 崩溃现场
01:58 坑三:跑起来了也干不了活——14 t/s 与卡死的“你好”
02:26 坑四:鞋盒挖个洞——矿卡三重硬伤
02:52 真实门槛:显存 ≥12G,内存 ≥32G 双通道
03:26 强 CPU 值多少:V100 对照组 75–106 t/s
03:56 一句公道话:便宜不是原罪,姿势要对
04:24 一句话结论 + 下一集预告
【口径说明】
视频配方引号内文字来自该抖音视频逐帧 OCR 核对(发布 2026-10-23);崩溃日志、token/s、上下文数据来自本频道第 19–21 集实机记录。
🔜 上一集:AI 界的大堂经理——DeepSeek Super-agent 讲透(Router 与 Worker)。下一集:双 M40 与双 V100(Strata)同台对比。
觉得有用就点个赞,评论区说说你被哪条短视频坑过——点赞多的我实测给你看。
【English】A Douyin video promises a "private AI compute center" for ¥500 (i3-4170, P106 mining card, a shoebox case). Great editing — wrong engineering. Our own benches: 8GB VRAM cannot even load a 22.9GB MoE model (dense layers alone eat 4.4GiB); an agent with a 4K context window dies on tool schemas; old CPUs without AVX2 fail outright or run silently slow. The real floor for usable local LLM work: 12GB VRAM minimum, AVX2 multi-core CPU, dual-channel RAM.
【日本語】抖音の「500元でプライベートAI計算センター」動画を検証。編集は上手いが結論は危うい:8GB VRAM では 22.9GB の MoE モデルが読み込めず、AVX2 非対応 CPU は即エラー、agent は 4K コンテキストで詰まる。実測ベースの実用ラインは VRAM 12GB 以上、AVX2 マルチコア CPU、デュアルチャンネルメモリ。
视频由strata + 两张v100 + 洋垃圾主板和cpu生成
#本地大模型 #矿卡 #P106 #显卡显存 #AI装机避坑 #洋垃圾 #RTX3060 #陕西楞娃