Your Code Has Bugs. Lean4 Has Proofs: Formal Verification for Engineers - Varun Pant, AWS

关键观点

1. 01

   形式化验证被定位为唯一可证明“全输入正确”的方法

   演讲者先建立问题背景：AI 代理正在以前所未有的速度生成代码，传统质量保障手段在规模和确定性上都遇到极限。LLM 评审是概率性的，测试只能覆盖部分输入，人工审查也难以匹配代理生成速度。与之相比，形式化验证的卖点不是“更可能正确”，而是能对所有输入给出数学证明。这使它从经验性保障工具提升为确定性保障工具。

   为什么重要: 这直接改变了代码质量治理的上限。对于高风险、高复杂度或安全关键系统，团队可以从“尽量发现 bug”转向“证明某类 bug 不存在”。

   支撑证据

   None of these can say for all inputs the code is correct. Formal verification can.

   演讲者先建立问题背景：AI 代理正在以前所未有的速度生成代码，传统质量保障手段在规模和确定性上都遇到极限。LLM 评审是概率性的，测试只能覆盖部分输入，人工审查也难以匹配代理生成速度。与之相比…展开观点

   演讲者先建立问题背景：AI 代理正在以前所未有的速度生成代码，传统质量保障手段在规模和确定性上都遇到极限。LLM 评审是概率性的，测试只能覆盖部分输入，人工审查也难以匹配代理生成速度。与之相比…展开观点收起观点

   演讲者先建立问题背景：AI 代理正在以前所未有的速度生成代码，传统质量保障手段在规模和确定性上都遇到极限。LLM 评审是概率性的，测试只能覆盖部分输入，人工审查也难以匹配代理生成速度。与之相比，形式化验证的卖点不是“更可能正确”，而是能对所有输入给出数学证明。这使它从经验性保障工具提升为确定性保障工具。

   为什么重要: 这直接改变了代码质量治理的上限。对于高风险、高复杂度或安全关键系统，团队可以从“尽量发现 bug”转向“证明某类 bug 不存在”。

   支撑证据

   None of these can say for all inputs the code is correct. Formal verification can.

2. 02

   规格而不是代码，才是人机协作链条中的上游资产

   演讲者强调，规格定义了“正确”的含义，因此它是整个验证流程的源头。无论规格是直接用 Lean 编写，还是先用自然语言描述再由 AI 自动形式化，人都必须认真验证它。因为一旦规格有偏差，下游再完美的实现与证明也只能证明“错的东西被正确实现了”。这使规格从一次性文档变成持续演化的核心工件。

   为什么重要: 这为 AI 编码时代的工程职责分工提供了清晰边界：人应主要控制需求与约束，机器负责实现与证明。这样比让人回头海量审代码更可扩展。

   支撑证据

   And this is important because the specification is upstream. It's a living, breathing artifact that the builder interacts with.

   演讲者强调，规格定义了“正确”的含义，因此它是整个验证流程的源头。无论规格是直接用 Lean 编写，还是先用自然语言描述再由 AI 自动形式化，人都必须认真验证它。因为一旦规格有偏差，下游再完…展开观点

   演讲者强调，规格定义了“正确”的含义，因此它是整个验证流程的源头。无论规格是直接用 Lean 编写，还是先用自然语言描述再由 AI 自动形式化，人都必须认真验证它。因为一旦规格有偏差，下游再完…展开观点收起观点

   演讲者强调，规格定义了“正确”的含义，因此它是整个验证流程的源头。无论规格是直接用 Lean 编写，还是先用自然语言描述再由 AI 自动形式化，人都必须认真验证它。因为一旦规格有偏差，下游再完美的实现与证明也只能证明“错的东西被正确实现了”。这使规格从一次性文档变成持续演化的核心工件。

   为什么重要: 这为 AI 编码时代的工程职责分工提供了清晰边界：人应主要控制需求与约束，机器负责实现与证明。这样比让人回头海量审代码更可扩展。

   支撑证据

   And this is important because the specification is upstream. It's a living, breathing artifact that the builder interacts with.