Emmanuel Ameisen：模型不是造出来的，看懂它们才是真正的难题

Lenny 采访 Anthropic 可解释性研究者 Emmanuel Ameisen，说明大语言模型是用数据长出来的，而不是用规则写出来的。预测下一个词看似简单，难词却会逼出世界模型、跨词计划和可复用的概念表征。对齐不能只看模型是否表现得有用、无害、诚实，还要检查它是不是因为被观察才装好，以及中间结果里那些没说出口的倾向。外面看到的能力跳跃，多半是平滑变强之后跨过了某项任务的可靠性阈值。 #技术 #商业 #经济 #创新 #历史 #创业 #企业 #podcast #播客 #小雨科技商业说