手机狂堆NPU,英伟达为啥还押GPU?
蓝鳍金枪鱼(Bluefin Tuna)维维
0:00 / 0:00
手机狂堆NPU,英伟达为啥还押GPU?
168 просмотров · 4 дня назад
蓝鳍金枪鱼(Bluefin Tuna)维维
1 подписчик
168 просмотров · 4 дня назад
你的新电脑贴着"NPU 45 TOPS",可训练大模型的机房里,唱主角的是 GPU。同样是给 AI 加速,为什么手机讲 NPU,数据中心讲 GPU?
这期用 3D 积木动画把芯片拆开讲:AI 算的其实是一道巨大的乘法题;CPU、GPU、NPU 三座工厂怎么分配硅片面积;GPU 的 warp、Tensor Core 和四层仓库;NPU 的一种经典结构——脉动阵列——一拍一拍怎么算(以谷歌第一代 TPU 为例);大模型什么时候卡算力、什么时候卡带宽,为什么逐个生成 token 时不能只看 TOPS;英伟达把专用加速放在 GPU 里、芯片里和系统里的三种做法;CUDA 到底是什么;高通、ARM 能不能挑战 CUDA;三家的生意经;开发者该怎么选。
🔬 硅片小课堂:TOPS 怎么算、搬数据比算数据贵多少 💰 钱包小课堂:卖整车、卖发动机、卖图纸
章节:
00:00 手机讲 NPU,机房讲 GPU 00:34 AI 到底在算什么? 01:32 三座工厂:芯片图纸里的取舍 02:58 GPU 怎么做这道题? 04:54 NPU 怎么做这道题? 07:37 大模型何时卡算力,何时卡带宽? 10:01 机房为什么讲 GPU? 12:06 CUDA 到底是什么? 13:36 高通、ARM 能挑战 CUDA 吗? 15:21 钱包小课堂:三种生意经 16:11 开发者怎么选?
资料来源:英伟达 Volta / Hopper 白皮书和 10-K,谷歌 TPU 论文(ISCA 2017),Horowitz(ISSCC 2014),Kaplan 等(2020),Ivanov 等(MLSys 2021),高通 NPU 白皮书(2024)和 10-K / 10-Q,ARM 年报,微软、苹果官方发布。研究日期 2026-10-11。 片中"每秒最多多少 token""屋顶线拐点"等数字是按公开数据推算的理论上限(单请求、只算权重),算式和条件写在画面上。片中动画为示意。