比英伟达快25倍?这家全栈芯片黑马,正在颠覆大模型推理与AI智能体的底层逻辑!算力再强也得等?
奇点散户
0:00 / 0:00
比英伟达快25倍?这家全栈芯片黑马,正在颠覆大模型推理与AI智能体的底层逻辑!算力再强也得等?
414 просмотров · 4 дн. назад
奇点散户
5 подписчиков
414 просмотров · 4 дн. назад
英伟达 GPU 算力已经无敌,为什么大模型推理还是又慢又贵?当 AI 智能体(Agent)和长上下文(Long Context)成为主流,真正卡死 AI 性能的早已不是算力,而是内存带宽与容量的“硬件地狱”。本期节目深度拆解全栈 AI 芯片黑马 Fractile 创始人的核心观点,带你直击大模型落地最真实的底层瓶颈!
💡 本期视频你将看到:
1. 算力骗局:为什么芯片算得再快,也只能坐着“等数据”?
2. 路线暴转:Fractile 为什么放弃 SRAM 转向全新内存架构?
3. Agent 噩梦:AI 智能体要加速完整任务,目前的硬件错在哪?
4. 物理限制:AI 能帮人类设计芯片,但芯片制造的时间差该怎么追?
5. 行业内幕:为什么顶级 AI 实验室(如 OpenAI、Meta)绝不能只买一种芯片?
📌 视频时间戳(Timeline):
00:00 算力很强,为什么还是要等?
01:15 算力、带宽与容量:仓库大出口窄的尴尬
03:15 逼入绝境?Fractile 的内存路线调整
05:23 智能体时代:如何加速“完整任务”而非单字生成
07:34 致命时间差:模型周更 vs 芯片年更
10:18 AI 辅助设计,为什么实验仍是瓶颈
12:27 硬件反噬:底层架构如何影响模型演进方向
14:10 拒绝被锁死!为什么前沿巨头不能押注一种芯片?
15:28 硬科技思考:三个重点与总结
🔗 相关延伸:
原访谈:No Priors — Frontier Chips for Frontier AI Labs, with Walter Goodwin, Founder/CEO of Fractile ( • Frontier Chips for Frontier AI Labs, with ... )
🤖 互动话题:
你觉得下一阶段 AI 推理要突破高昂成本,最需要攻克的是算力、内存带宽,还是整个系统的协同?欢迎在评论区留下你的硬核见解!
喜欢这类深度硬核的 AI、芯片与基础设施讲解,请点赞并订阅频道,我们下期再见!
#AI芯片 #英伟达 #大模型推理 #AI智能体 #Fractile #半导体 #人工智能 #科技趋势 #Nvidia #OpenAI