内容摘要
这场访谈的核心判断是:真正可靠的 AI 不只要会回答,还要会表示、更新并沟通自己的不确定性。规模化训练已经带来强能力,但在长尾、高风险和持续学习场景里,显式的不确定性建模仍是关键缺口。
关键观点
不确定性不是附属功能,而是智能决策的底层条件
Ghahramani 不是把不确定性当作安全补丁,而是当作智能定义的一部分。因为真实世界里的感知总是不完整,未来也无法被完全预测,所以任何要行动的系统都必须先处理“我不知道多少”。在他的框架里,智能体不仅要能存储不确定性,还要能随着新证据更新它,并据此做决策。这个定义把“回答问题”提升成“在不完全信息下可靠行动”。
为什么重要: 如果接受这个前提,评估 AI 就不能只看答对率,还必须看它在陌生和高风险场景中的决策质量。
支撑证据
you need a system that can represent uncertainty, that can update its uncertainty and then can use that to make good decisions under uncertainty.
不同类型的不确定性对应不同策略
访谈明确区分了世界固有随机性与知识不足导致的不确定性。前者像 coin flip 或行人转向,更多信息未必能把它消除;后者则往往可以通过继续观察、补充传感器输入或获取证据来降低。如果系统不区分这两类情况,就可能在该放弃预测时继续瞎猜,也可能在该主动搜集信息时过早下结论。自驾车在冰雹中遇到从未见过的马,就是长尾风险的典型例子。
为什么重要: