AI不确定性的数学原理​ | 贝叶斯法则 | 机器学习 | 深度学习 | 祖宾·加赫拉马尼 | 谷歌DeepMind | 大语言模型 | 概率推理 | 神经网络 | 通用人工智能 | 语义熵

本期视频基于谷歌DeepMind播客对祖宾·加赫拉马尼的深度访谈，探讨了不确定性数学在AI发展中的核心地位。祖宾认为智能系统必须能表示和更新不确定性才能在真实世界做出好决策，区分了偶然不确定性和认知不确定性两类，并以自动驾驶汽车的长尾场景为例。访谈追溯了他从1980年代神经网络先驱到转向贝叶斯研究的学术历程，详细解释了贝叶斯法则如何将先验信念与新证据结合形成后验更新。他指出当前大语言模型虽是概率模型但缺乏显式不确定性表示，容易过度自信犯错和翻转。在应用层面，天气预报模型GenCast和AlphaFold展示了拥抱不确定性反而提升预测精度。未来突破方向包括持续学习、能效、新架构和数据效率，贝叶斯思路理论上可解决灾难性遗忘但受限于计算复杂度。核心观点：宁可要知道自己不知道什么的AI，也不要傲慢且过度自信的AI。    • The mathematics of AI uncertainty