Перейти к содержимому

比英伟达快25倍?这家全栈芯片黑马,正在颠覆大模型推理与AI智能体的底层逻辑!算力再强也得等?

奇点散户

0:00 / 0:00

比英伟达快25倍?这家全栈芯片黑马,正在颠覆大模型推理与AI智能体的底层逻辑!算力再强也得等?

414 просмотров · 4 дн. назад
奇点散户
5 подписчиков
414 просмотров · 4 дн. назад
英伟达 GPU 算力已经无敌,为什么大模型推理还是又慢又贵?当 AI 智能体(Agent)和长上下文(Long Context)成为主流,真正卡死 AI 性能的早已不是算力,而是内存带宽与容量的“硬件地狱”。本期节目深度拆解全栈 AI 芯片黑马 Fractile 创始人的核心观点,带你直击大模型落地最真实的底层瓶颈! 💡 本期视频你将看到: 1. 算力骗局:为什么芯片算得再快,也只能坐着“等数据”? 2. 路线暴转:Fractile 为什么放弃 SRAM 转向全新内存架构? 3. Agent 噩梦:AI 智能体要加速完整任务,目前的硬件错在哪? 4. 物理限制:AI 能帮人类设计芯片,但芯片制造的时间差该怎么追? 5. 行业内幕:为什么顶级 AI 实验室(如 OpenAI、Meta)绝不能只买一种芯片? 📌 视频时间戳(Timeline): 00:00 算力很强,为什么还是要等? 01:15 算力、带宽与容量:仓库大出口窄的尴尬 03:15 逼入绝境?Fractile 的内存路线调整 05:23 智能体时代:如何加速“完整任务”而非单字生成 07:34 致命时间差:模型周更 vs 芯片年更 10:18 AI 辅助设计,为什么实验仍是瓶颈 12:27 硬件反噬:底层架构如何影响模型演进方向 14:10 拒绝被锁死!为什么前沿巨头不能押注一种芯片? 15:28 硬科技思考:三个重点与总结 🔗 相关延伸: 原访谈:No Priors — Frontier Chips for Frontier AI Labs, with Walter Goodwin, Founder/CEO of Fractile (   • Frontier Chips for Frontier AI Labs, with ...  ) 🤖 互动话题: 你觉得下一阶段 AI 推理要突破高昂成本,最需要攻克的是算力、内存带宽,还是整个系统的协同?欢迎在评论区留下你的硬核见解! 喜欢这类深度硬核的 AI、芯片与基础设施讲解,请点赞并订阅频道,我们下期再见! #AI芯片 #英伟达 #大模型推理 #AI智能体 #Fractile #半导体 #人工智能 #科技趋势 #Nvidia #OpenAI