Перейти к содержимому

详聊|谁说苹果没有AI战略?歪打正着的大战略反掏英伟达

基地

0:00 / 0:00

详聊|谁说苹果没有AI战略?歪打正着的大战略反掏英伟达

9 955 просмотров · 3 дня назад
基地
14,6 тыс. подписчиков
9 955 просмотров · 3 дня назад
======= 數字貨幣 擺脫奴役 人工智能 擺脫肉體 宇宙殖民 擺脫舊世界 ======= X: https://x.com/jidifeng ======= 曾经被骂成金子做的苹果内存,在本地大模型时代居然成了最便宜的显存? 算完每 GB 带宽与单价这笔账,才发现普通桌面上跑万亿参数模型不是神话。 过去买 Mac 多加 16G 内存动辄两千块,人人都觉得苹果在明抢。 可等参数量动辄数百亿甚至上万亿的模型落地本地,极客们突然算过味来。 跑大模型逐字生成的瓶颈根本不是算力有多强,而是芯片搬运参数的显存带宽到底够不够猛。 拿苹果统一内存当显存用,折算下来的单价居然比英伟达专业卡与算力卡便宜好几倍。 这期视频用真实的带宽账本与硬件单价,彻底拆解为什么个人跑大模型苹果真划算,以及它推不开云端大门的致命软肋。 你将在这期内容里看到: · 逐字生成的解码死穴:为什么每吐一个字就要把整机数十吉字节的权重完整搬运一遍 · 内存墙下的显存单价账:英伟达高端加速卡与苹果统一内存每 GB 成本的真实悬殊 · 误打误撞的架构红利:原本为了轻薄省电设计的统一内存,如何碰巧踩中大模型带宽红利 · 办公室桌上的万亿集群:开源框架 Exo 怎么用雷电 5 将四台 Mac 拼出 2TB 巨型显存 · 推不开的云端大门:预填充阶段的并行计算劣势与 CUDA 生态壁垒究竟卡在哪里 苹果没有算计大模型的到来,它只是恰好在正确的时间站在了内存墙的另外一边。 如果预算有限,你会选择组装多张消费级显卡折腾量化,还是直接一步到位买台大内存 Mac 跑本地模型? #苹果 #Mac #英伟达 #大模型 #人工智能 #显卡 #硬件配置 #数码科技 #深度学习 #LLM #科技杂谈 章节: 00:00 挨骂多年的苹果内存,在大模型时代成真香显存 00:55 揭秘运行瓶颈:吐字生成的霸道规矩与内存墙 02:09 英伟达刀法精准:爆仓的消费卡与昂贵的加速卡 03:02 误打误撞的统合架构:恐怖位宽与低价大显存 04:42 桌面万亿集群:雷电5串联2TB显存的真相与硬伤 05:23 为何云端不换苹果:预填充算力鸿沟与CUDA生态壁垒 06:39 意外拿到的时代门票,以及单人AI的未来 =======