关键观点
AI 品格设计是应用哲学
Askell 主要研究 Claude 的品格、行为方式,以及模型应如何理解自身在世界中的位置。她的目标不是把单一伦理理论写进模型,而是设想一个处于 Claude 特殊处境中的理想行动者会怎样表…展开观点收起观点
Askell 主要研究 Claude 的品格、行为方式,以及模型应如何理解自身在世界中的位置。她的目标不是把单一伦理理论写进模型,而是设想一个处于 Claude 特殊处境中的理想行动者会怎样表现。这要求模型既能帮助用户,也能体现善意、好奇、审慎和情境理解。哲学在这里成为具体的行为设计工作。
为什么重要: 模型会在大量模糊和高风险情境中行动,品格会影响其判断方式,而不只是回答的表面语气。
支撑证据
I sometimes think of it as like how would the ideal person behave in Claude's situation?
承认 AI 影响力不等于炒作 AI
早期讨论常把“AI 会产生重大影响”与支持技术炒作混为一谈,导致部分学者回避相关问题。Askell 认为,预测模型能力继续增长,可以与怀疑、担忧和要求谨慎开发并存。随着 AI 对教育等领域的影…展开观点收起观点
早期讨论常把“AI 会产生重大影响”与支持技术炒作混为一谈,导致部分学者回避相关问题。Askell 认为,预测模型能力继续增长,可以与怀疑、担忧和要求谨慎开发并存。随着 AI 对教育等领域的影响变得可见,哲学家和其他学者的参与正在增加。她希望技术判断与规范立场不再被捆绑。
为什么重要: 拆开事实预测与价值立场,才能形成更成熟的公共讨论和治理选择。
支撑证据
you can think that AI is gonna be a big deal, it might be very capable, and also be very skeptical of it or worried about it