The arrival of AGI | Shane Legg (co-founder of DeepMind)

关键观点

1. 01

   AGI的最低门槛是覆盖普通人的认知能力

   Legg把最低限度AGI定义为能够完成普通人通常可以完成的各类认知任务，而不是在少数高难度基准上取得高分。门槛如果更低，系统仍会在常识性任务上出现令人意外的失败；如果更高，则会要求它完成许多人自身也做不到的事情。这一定义强调的是能力的广度，而不是某个任务上的峰值表现。达到这一门槛具有历史意义，但不等于系统已经掌握爱因斯坦、莫扎特等杰出个体所代表的全部人类认知上限。

   为什么重要: 它为判断AGI提供了相对可操作的参照，也避免把单项超人表现误认为通用智能。

   支撑证据

   my definition of AGI or sometimes called minimal AGI is it's an artificial agent that can at least do the kinds of cognitive things people can typically do.

   Legg把最低限度AGI定义为能够完成普通人通常可以完成的各类认知任务，而不是在少数高难度基准上取得高分。门槛如果更低，系统仍会在常识性任务上出现令人意外的失败；如果更高，则会要求它完成许多人…展开观点

   Legg把最低限度AGI定义为能够完成普通人通常可以完成的各类认知任务，而不是在少数高难度基准上取得高分。门槛如果更低，系统仍会在常识性任务上出现令人意外的失败；如果更高，则会要求它完成许多人…展开观点收起观点

   Legg把最低限度AGI定义为能够完成普通人通常可以完成的各类认知任务，而不是在少数高难度基准上取得高分。门槛如果更低，系统仍会在常识性任务上出现令人意外的失败；如果更高，则会要求它完成许多人自身也做不到的事情。这一定义强调的是能力的广度，而不是某个任务上的峰值表现。达到这一门槛具有历史意义，但不等于系统已经掌握爱因斯坦、莫扎特等杰出个体所代表的全部人类认知上限。

   为什么重要: 它为判断AGI提供了相对可操作的参照，也避免把单项超人表现误认为通用智能。

   支撑证据

   my definition of AGI or sometimes called minimal AGI is it's an artificial agent that can at least do the kinds of cognitive things people can typically do.

2. 02

   当前AI呈现明显的能力不均衡

   现有模型能使用约150种语言，拥有远超个人的一般知识，并在编码、数学等领域迅速接近或超过专业水平。但它们仍不擅长持续学习新技能，也会在包含透视、空间关系、节点和边计数的视觉推理任务上失误。因而，用“已经非常强大”或“只是炒作”概括现状都不准确。更合理的判断方式是绘制不同能力维度上的完整分布。

   为什么重要: 能力不均衡同时决定了AI的应用价值和风险边界；忽视弱项会导致错误授权，忽视强项则会低估转型速度。

   支撑证据

   It is incredibly capable in some ways, and it is quite fragile, and others you have to take the whole picture.

   现有模型能使用约150种语言，拥有远超个人的一般知识，并在编码、数学等领域迅速接近或超过专业水平。但它们仍不擅长持续学习新技能，也会在包含透视、空间关系、节点和边计数的视觉推理任务上失误。因而…展开观点

   现有模型能使用约150种语言，拥有远超个人的一般知识，并在编码、数学等领域迅速接近或超过专业水平。但它们仍不擅长持续学习新技能，也会在包含透视、空间关系、节点和边计数的视觉推理任务上失误。因而…展开观点收起观点

   现有模型能使用约150种语言，拥有远超个人的一般知识，并在编码、数学等领域迅速接近或超过专业水平。但它们仍不擅长持续学习新技能，也会在包含透视、空间关系、节点和边计数的视觉推理任务上失误。因而，用“已经非常强大”或“只是炒作”概括现状都不准确。更合理的判断方式是绘制不同能力维度上的完整分布。

   为什么重要: 能力不均衡同时决定了AI的应用价值和风险边界；忽视弱项会导致错误授权，忽视强项则会低估转型速度。

   支撑证据

   It is incredibly capable in some ways, and it is quite fragile, and others you have to take the whole picture.