关键观点
监管应用,而不是监管智能本身Socher认为,对GPU计算进行全面法律监控,会产生比现有AI风险更严重的政治代价。他把这种做法类比为因互联网存在违法内容而限制所有人的硬盘容量或网速。更合理的办法是对医疗、交通、网络攻击等可能直接造成伤害的应用设置认证和责任边界。这个立场并非反对安全监管,而是反对把抽象算力或智能能力本身视为违法对象。
Socher认为,对GPU计算进行全面法律监控,会产生比现有AI风险更严重的政治代价。他把这种做法类比为因互联网存在违法内容而限制所有人的硬盘容量或网速。更合理的办法是对医疗、交通、网络攻击等可能直接造成伤害的应用设置认证和责任边界。这个立场并非反对安全监管,而是反对把抽象算力或智能能力本身视为违法对象。
为什么重要: 这一区分决定了治理究竟针对可观察的危害,还是建立普遍性的计算监控体系。
支撑证据
if you try to regulate intelligence, it's trying to regulate thought and that's ridiculous and it's crazy. I think it is sensible to regulate some of the applications of this technology.
AI起飞仍受物理世界约束访谈否定了超级智能会立刻让整个经济增长千倍的简单想象。GPU供给、能源消耗、机器人能力和实验速度都会限制进展,旅游、奢侈品、石油等行业也不会仅凭更强推理能力瞬间扩张。AI可以改善这些产业,但现实资源和人类偏好不会同步指数增长。因此,Socher预期的是显著但不均匀的加速,而非没有摩擦的硬起飞。