Перейти к содержимому

500块的“私人AI算力中心”?实测拆坑:显卡至少12G,CPU必须强

陕西楞娃

0:00 / 0:00

500块的“私人AI算力中心”?实测拆坑:显卡至少12G,CPU必须强

12 просмотров · 1 дн. назад
陕西楞娃
5 подписчиков
12 просмотров · 1 дн. назад
刷到一条抖音:用 5090 显卡 1% 的预算,500 块搓一台"全天候待命的私人 AI 算力中心"。画面和解说一一对应,做得确实好。但 i3-4170、P106 矿卡、鞋盒装机这套配方,我们用自己的机器实测过——新手照着装,坑跳不完。这一集逐句拆它,然后给出真实门槛。 【实测要点】 CPU 不是看大门的:卸载方案要 AVX2+FMA,E3-1275 V2 直接报错"CPU expert kernels need";LGA1155 全系无 AVX2,换 CPU 连主板一起换 8G 显存装不进 35B:dense 4.40 GiB 硬占,建完上下文只剩 1.67 GiB,全套省显存组合拳只把空闲抬到 1.96 GiB——激活参数小省的是计算量,不是显存 "跑起来"≠"能干":llama.cpp 14 token/s 真实,但 agent 问"你好"就卡死——默认 4096 上下文,工具 schema 吃掉几千 token 矿卡三重硬伤:满载一百多瓦、风扇拆过无视频输出、PCIe 硬件锁死 x4 Gen1(PCB 级别,刷 VBIOS 解不开) 失败模式是安静的:引擎不崩给你看,静默把层留在内存慢跑——速度腰斩但没报错 【新手配置线】 1️⃣ 显卡最少 12G:官方实测 35B-A3B 最小卡 RTX 3060 12GB;8G 安全区只有 Qwen2.5-7B(权重+KV≈6.5GB) 2️⃣ CPU 必须强:AVX2 起步、多核、双通道内存 ≥32G——Haswell 之后都够入场 3️⃣ 预算不够的正确姿势:两张便宜卡凑 16G 显存池,模型体积按显存反推,别赌"一键整合包" 【时间轴】 00:00 刷到一条很上头的抖音:500 块搓私人 AI 算力中心 00:26 先把它的配方念一遍:i3-4170 / B85 / P106 / 鞋盒 00:56 坑一:CPU 不是看大门的——AVX2 报错实录 01:29 坑二:8G 装不进 35B——1.67 GiB 崩溃现场 01:58 坑三:跑起来了也干不了活——14 t/s 与卡死的“你好” 02:26 坑四:鞋盒挖个洞——矿卡三重硬伤 02:52 真实门槛:显存 ≥12G,内存 ≥32G 双通道 03:26 强 CPU 值多少:V100 对照组 75–106 t/s 03:56 一句公道话:便宜不是原罪,姿势要对 04:24 一句话结论 + 下一集预告 【口径说明】 视频配方引号内文字来自该抖音视频逐帧 OCR 核对(发布 2026-10-23);崩溃日志、token/s、上下文数据来自本频道第 19–21 集实机记录。 🔜 上一集:AI 界的大堂经理——DeepSeek Super-agent 讲透(Router 与 Worker)。下一集:双 M40 与双 V100(Strata)同台对比。 觉得有用就点个赞,评论区说说你被哪条短视频坑过——点赞多的我实测给你看。 【English】A Douyin video promises a "private AI compute center" for ¥500 (i3-4170, P106 mining card, a shoebox case). Great editing — wrong engineering. Our own benches: 8GB VRAM cannot even load a 22.9GB MoE model (dense layers alone eat 4.4GiB); an agent with a 4K context window dies on tool schemas; old CPUs without AVX2 fail outright or run silently slow. The real floor for usable local LLM work: 12GB VRAM minimum, AVX2 multi-core CPU, dual-channel RAM. 【日本語】抖音の「500元でプライベートAI計算センター」動画を検証。編集は上手いが結論は危うい:8GB VRAM では 22.9GB の MoE モデルが読み込めず、AVX2 非対応 CPU は即エラー、agent は 4K コンテキストで詰まる。実測ベースの実用ラインは VRAM 12GB 以上、AVX2 マルチコア CPU、デュアルチャンネルメモリ。 视频由strata + 两张v100 + 洋垃圾主板和cpu生成 #本地大模型 #矿卡 #P106 #显卡显存 #AI装机避坑 #洋垃圾 #RTX3060 #陕西楞娃