Simon Willison：人工智能正在改变软件工程的生产力，预测在人工智能使用中可能发生的重大灾难，以及人工智能编码模型的进步正在重塑角色 | Lenny的播客

要点

• AI 正在改变软件工程中的生产力动态，但它也会增加工作量。
• 预计由于不安全的使用方式，会发生类似“挑战者号灾难”的重大 AI 使用灾难。
• 近期 AI 编码模型的进展已经跨过了一个重要门槛，提高了采用率和有效性。
• 在 AI 模型中集成推理能力，提升了它们的调试和编码能力。
• AI 的进步显著提升了根据用户指令生成可运行代码的能力。
• 编码领域中 AI 的演进将带来软件工程师角色和工作流程的变化。
• “氛围编码”（vibe coding）允许在不理解底层代码的情况下创建应用，从而实现技术普惠。
• 虽然氛围编码对于原型验证很有用，但在负责任使用方面存在局限。
• “氛围编码”这个术语不应适用于所有 AI 辅助编码，以保持专业技能的价值。
• “智能体工程”（agentic engineering）强调有效使用 AI 编码智能体所需的技能。
• 要获得最佳结果，AI 工具需要对软件以及智能体功能有深入理解。
• AI 编码模型的增长表明编码任务将发生变革性的转变。
• AI 的推理能力对于未来编程任务的发展至关重要。
• 氛围编码更适合个人项目——只有用户自己会因 bug 受影响。
• 随着 AI 工具融入软件开发，区分业余与专业编码至关重要。

嘉宾介绍

Simon Willison 是一名独立软件开发者，他全职从事为数据新闻业构建开源工具的工作，包括 Datasette 和 LLM。他共同创建了 Django Web 框架，该框架为 Instagram、Pinterest 以及成千上万的其他网站提供支持。他提出了“提示注入”（prompt injection）这一术语，并在他的博客 simonwillison.net 上记录了他向“AI 原生开发”的转型。

AI 对软件工程中生产力的影响

• AI 正在从根本上改变软件工程中的生产力动态。

• AI 应该让我们更高效，但感觉那些由 AI 构建出来的人（或“最 AI 驱动的人”）正在比他们以往任何时候都更努力地工作，用的是编码智能体。

  — Simon Willison

• AI 工具正在影响软件工程师的工作量和生产力。

• 生产力动态的转变既意味着软件开发中的机遇，也带来挑战。

• AI 对生产力的影响需要理解其对工作习惯的作用。

• 集成 AI 工具可能带来效率提升，但也可能导致更高的工作量。

• 软件工程师正在经历一种在面对任务时的显著变化，这是由于 AI 带来的。

• AI 驱动的生产力与工作量之间的平衡，是开发者需要重点考虑的关键因素。

预测一场重大的 AI 灾难

• 预计会发生一场重大的 AI 使用灾难，类似“挑战者号灾难”。

• 我的预测是，我们将会看到一场艰难的灾难……我们一直在用这些系统，用越来越不安全的方式，它迟早会反噬我们。

  — Simon Willison

• 这项预测与历史上的技术性失败有相似之处。

• 如果当前的 AI 实践没有得到妥善管理，可能会带来重大风险。

• 理解历史上的失败能够为潜在的 AI 灾难提供背景。

• AI 部署的轨迹表明需要谨慎与监督。

• 潜在的重大 AI 灾难强调了安全实践的重要性。

• 为可能发生的 AI 失败做好准备，对于降低风险至关重要。

AI 编码模型的进展

• 近期 AI 编码模型的进展提高了采用率并增强了有效性。

• 到了 11 月，我们迎来了我所说的“拐点”：gpt 5.1 和 claude opus 4.5 的出现——它们在某种程度上都只是比之前的模型有小幅度提升，但那种提升跨过了一个门槛……

  — Simon Willison

• AI 模型的改进表明编码任务将发生变革性的转变。

• 理解 AI 模型的进展对于行业影响至关重要。

• 新模型跨越的门槛显示出 AI 开发取得了显著进展。

• AI 编码模型正变得更有效，从而推动更广泛的采用。

• 这些进步凸显了 AI 发展的一个关键时刻。

• AI 模型的改进增强了它们在软件工程中的可用性。

AI 模型中的推理能力

• AI 模型中集成推理能力，增强了调试与编码能力。

• 结果发现，推理对代码很棒——它可以在代码中进行推理，找出 bug 的根因，诸如此类……

  — Simon Willison

• 推理能力提升了 AI 在编码任务中的效用。

• 能够在代码层面进行推理对于 AI 模型的有效性至关重要。

• AI 的推理能力对于未来的编程发展至关重要。

• 理解 AI 模型的能力对于充分发挥其潜力很重要。

• 在 AI 模型中集成推理体现了重要的技术进步。

• AI 增强的推理能力有助于改进调试流程。

AI 在生成可运行代码方面的作用

• AI 的进步提升了生成可运行代码的能力。

• 我可以让它去构建代码，如果我把那段代码描述得足够清楚，它就会遵循指令，构建出我让它构建的东西。

  — Simon Willison

• 基于指令生成代码的 AI 能力正在为软件工程带来变革。

• 这些 AI 编码方面的进步影响编码实践与工作流程。

• 理解 AI 在代码生成中的作用对开发者至关重要。

• AI 在代码生成方面的能力体现了软件开发的一种转变。

• 提升 AI 代码生成能力的改进增强了生产力。

• AI 在生成代码方面的角色代表了软件工程的一项重大变化。

编码领域中 AI 的演进及其对软件工程师的影响

• AI 在编码领域的演进将带来软件工程师角色的变化。

• 未来看看这种变化如何推广到其他信息工作，会非常有意思。

  — Simon Willison

• AI 与编码的融合表明专业动态的转变。

• 角色与工作流程的变化凸显了 AI 对软件工程的影响。

• 理解 AI 对编码的影响对于未来发展很重要。

• 编码领域中 AI 的演进代表了对信息工作更广泛的影响。

• AI 在编码中的角色暗示了软件工程实践将发生显著变化。

• 将 AI 融入编码任务体现出专业角色的转变。

探索“氛围编码”（vibe coding）的概念

• 氛围编码让用户在不理解代码的情况下创建应用。

• 我喜欢 andre karpi 对氛围编码的原始定义：当你甚至都不去看代码，基本上就是凭感觉做——你说“会有东西能做 x”，它就把它搭出来，你再去玩；如果看起来不错，那就很好；如果它做得不太符合，你就来来回回地反复调整，但这非常“放手”（hands off）——你并没有在看代码。

  — Simon Willison

• 通过让非程序员也能使用，氛围编码实现了技术普惠。

• 氛围编码这一概念代表了编码方式的重大转变。

• 理解氛围编码对于充分发挥其潜在好处很重要。

• 氛围编码允许“放手式”的应用创建，更强调用户体验。

• 这种方法凸显了软件开发中的一种新范式。

• 氛围编码的可及性暗示了技术使用将产生更广泛的影响。

氛围编码的局限性与负责任使用

• 氛围编码很适合有趣的尝试和原型验证，但在负责任使用方面存在局限。

• 当然，问题在于你能在“负责任”的范围内做多少是有限的——比如我喜欢告诉大家：如果你在为自己做氛围编码（vibe coding），而只有你自己会因为 bug 而受影响，那你就尽情玩吧。

  — Simon Willison

• 在氛围编码带来的益处与风险之间取得平衡，对于负责任使用至关重要。

• 理解氛围编码的局限对于安全实践很重要。

• 氛围编码的局限性凸显了在使用时需要谨慎。

• 这种方法适用于个人项目，但需要对更广泛的应用承担责任。

• 氛围编码的局限性强调了理解技术影响的重要性。

• 负责任地使用氛围编码对于降低潜在风险至关重要。

区分“业余”和“专业”编码

• “氛围编码”（vibe coding）这个术语不应涵盖所有 AI 辅助编码。

• 我认为，这样会贬低“氛围编码”作为一个术语的价值，因为它有用：你可以说“我氛围编码了这个”——意思是我甚至都没去看它是怎么工作的，它还不具备生产可用性，但它有点像是酷炫的原型。

  — Simon Willison

• 区分业余与专业编码对于维护技能价值很重要。

• 理解编码层级之间的差异对于软件开发至关重要。

• 这种区分凸显了在 AI 辅助编码中专业技能的重要性。

• 随着 AI 工具融入开发流程，保持专业技能的价值至关重要。

• 编码层级之间的差异强调了需要对技能加以认可。

• AI 辅助编码要求理解不同熟练程度之间的细微差别。

智能体工程（agentic engineering）的艺术

• 智能体工程强调有效使用 AI 编码智能体所需的技能。

• 我觉得智能体工程是一门非常深刻、非常迷人的学科，因为要从这里面得到非常好的结果——这永远都需要对软件如何运作、这些智能体如何运作，以及相关方面有大量经验的深度。

  — Simon Willison

• 该学科突出了在利用 AI 工具进行编码时所涉及的复杂性。

• 理解智能体工程对于未来的软件开发实践至关重要。

• 智能体工程的艺术要求对软件与 AI 智能体有深入理解。

• 该学科强调了要有效使用 AI 工具所需要的技能与经验。

• 智能体工程是现代软件开发中的关键组成部分。

• 理解智能体工程对于在编码中优化 AI 的潜力至关重要。

                  **披露：**本文由 Editorial Team 编辑。有关我们如何创建和审阅内容的更多信息，请参见我们的 Editorial Policy。