Simon Willison：人工智慧正在改變軟體工程的生產力，預測在人工智慧應用中將發生重大災難，並且人工智慧程式碼模型的進步正在重塑角色｜Lenny的播客

重點整理

• AI 正在改變軟體工程中的生產力運作方式，但同時也增加了工作量。
• 預測指出，因不安全的使用做法而將發生一次類似 Challenger disaster（挑戰者事故）的重大 AI 使用災難。
• 近期在 AI 編碼模型上的進展已跨越顯著門檻，提升採用率與效能。
• 將推理能力整合進 AI 模型後，提升了它們的除錯與編碼能力。
• AI 的進步大幅提升了根據使用者指示產生可運作程式碼的能力。
• AI 在編碼領域的演進，將導致軟體工程師的角色與工作流程出現變化。
• 「氛圍編碼」（vibe coding）讓使用者在不理解底層程式碼的情況下也能建立應用，進而推動科技民主化。
• 雖然氛圍編碼對原型製作很有用，但在負責任使用方面仍有其限制。
• 為了維持專業技能的價值，「氛圍編碼」這個詞不應該套用到所有由 AI 協助的編碼。
• Agentic engineering（代理式工程）突顯了有效使用 AI 編碼代理所需的技能。
• 為了達到最佳效果，AI 工具需要深入理解軟體與代理的運作方式。
• AI 編碼模型的成長顯示，編碼任務可能出現具變革性的轉變。
• AI 的推理能力對未來的程式任務發展至關重要。
• 氛圍編碼更適合個人專案，因為只有使用者會因程式錯誤而受影響。
• 隨著 AI 工具逐步融入軟體開發，區分「隨興」與「專業」編碼就顯得格外重要。

來賓介紹

Simon Willison 是一名獨立軟體開發者，他全職投入工作，打造面向資料新聞的開源工具，包括 Datasette 與 LLM。他共同創建了 Django 網頁框架，而該框架驅動著 Instagram、Pinterest，以及成千上萬的其他網站。他提出了「prompt injection」（提示注入）這個詞，並在他的部落格 simonwillison.net 中記錄了自己如何轉向「原生 AI」的開發。

AI 對軟體工程生產力的影響

• AI 從根本上正在改變軟體工程中的生產力運作方式。

• AI 理應讓我們更有生產力，但感覺上，使用 coding agents 的那些人工作得比以往任何時候都更努力。

  — Simon Willison

• AI 工具正在影響軟體工程師的工作量與生產力。

• 生產力運作方式的轉變，暗示軟體開發同時存在機會與挑戰。

• 要理解 AI 對生產力的影響，需要先了解它如何作用在工作習慣上。

• 整合 AI 工具可能帶來效率提升，但也可能導致工作量增加。

• 軟體工程師正在因為 AI 的介入而，對待任務的方式出現顯著轉變。

• AI 所驅動的生產力與工作量之間的平衡，是開發者必須考量的關鍵因素。

預測一場重大 AI 災難

• 發生一場重大 AI 使用災難的可能性很高，類似於 Challenger disaster（挑戰者事故）。

• 我的預測是，我們會看到一場艱難的災難……我們一直以越來越不安全的方式在使用這些系統，它終究會追上我們。

  — Simon Willison

• 這項預測與歷史上的科技失敗存在相似之處。

• 如果沒有妥善管理，目前的 AI 實務可能會導致重大風險。

• 理解歷史上的失敗，能夠為潛在的 AI 災難提供背景脈絡。

• 從 AI 部署的走勢來看，需要保持審慎並進行監督。

• 可能發生重大 AI 災難也強調了安全做法的重要性。

• 為可能的 AI 失敗做好準備，對於降低風險至關重要。

AI 編碼模型的進步

• 近期在 AI 編碼模型上的進展已提升採用率與效能。

• 11 月時，我們迎來了我所說的轉折點，也就是 gpt 5.1 和 claude opus 4.5 的出現；它們兩者都比先前的模型逐步更好，但方式上跨越了一個門檻……

  — Simon Willison

• 這些 AI 模型的改進顯示，編碼任務正在朝向具變革性的轉變。

• 理解這些 AI 模型的進步，對於產業層面的影響至關重要。

• 新模型所跨越的門檻，代表在 AI 發展上有顯著進展。

• AI 編碼模型變得更有效，因而帶來採用率的提升。

• 這些進步突顯了 AI 開發中的一個關鍵時刻。

• AI 模型的改進提升了它們在軟體工程中的實用性。

AI 模型中的推理能力

• 整合 AI 模型的推理能力，能增強其除錯與編碼表現。

• 事實證明，推理對程式碼很有用：它能針對程式碼進行推理，並找出 bugs 的根本原因，還有其他所有這些……

  — Simon Willison

• 推理能力能提升 AI 在編碼任務上的效用。

• 能夠針對程式碼進行推理，對 AI 模型的有效性至關重要。

• AI 的推理能力對未來的程式開發發展至關重要。

• 理解 AI 模型的能力，對於善用其潛力很重要。

• 將推理能力整合進 AI 模型，代表一項重要的技術進步。

• AI 強化後的推理能力，有助於改善除錯流程。

AI 在產生可運作程式碼中的角色

• AI 的進步提升了產生可運作程式碼的能力。

• 我可以叫它去建立程式碼，而如果我把那段程式碼描述得夠清楚，它就會照指示做，然後建立出我要它建立的那個東西。

  — Simon Willison

• AI 能夠根據指示產生程式碼，對軟體工程而言是革命性的。

• 這些 AI 編碼方面的進展，會影響編碼實務與工作流程。

• 理解 AI 在程式碼生成中的角色，對開發者至關重要。

• AI 在程式碼生成方面的能力，凸顯了軟體開發正在改變。

• 這些在程式碼生成能力上的改進，提升了生產力。

• AI 在產生程式碼方面的角色，代表軟體工程的一項重大變化。

AI 在編碼中的演進及其對軟體工程師的影響

• AI 在編碼中的演進，將導致軟體工程師的角色出現變化。

• 看到這件事未來會如何逐步延伸到其他資訊工作，會非常有趣。

  — Simon Willison

• AI 將自身整合進編碼工作，暗示著專業動態的轉變。

• 角色與工作流程的改變，凸顯了 AI 對軟體工程的影響。

• 理解 AI 對編碼的影響，對未來的發展很重要。

• AI 在編碼中的演進，代表對資訊工作更廣泛層面的影響。

• AI 在編碼中的角色，暗示軟體工程實務將出現顯著變化。

• 將 AI 整合進編碼任務中，突顯專業角色的轉變。

探索「氛圍編碼」（vibe coding）的概念

• 氛圍編碼讓使用者能在不理解程式碼的情況下建立應用程式。

• 我喜歡 andre karpi 對氛圍編碼的原始定義：那是指你甚至不去看程式碼，你基本上就憑感覺在做；你說會有某些東西能做到 x，它就把它做出來。接著你跟它互動；如果看起來不錯就很好；如果它做得不太一樣，你就不斷來回調整，但整體來說很「放手」——你不在看程式碼。

  — Simon Willison

• 透過讓非程式設計者也能使用，氛圍編碼實現了科技民主化。

• 氛圍編碼的概念代表了一種重要的編碼方式轉變。

• 理解氛圍編碼，對於善用其潛在效益很重要。

• 氛圍編碼讓應用程式的建立更偏「放手」，並強調使用者體驗。

• 氛圍編碼的方法突顯了軟體開發中的一種新範式。

• 氛圍編碼的可近性，暗示對科技使用可能帶來更廣泛的影響。

氛圍編碼的限制與負責任使用

• 氛圍編碼很適合開心玩樂與製作原型，但在負責任使用方面仍有其限制。

• 當然，問題在於，你能以「負責任」的程度做到多少是有限的；像我就喜歡跟人說，如果你是在為自己做氛圍編碼的東西——只有唯一會受傷的人是你自己，因為如果出了 bugs 也只會影響到你——那你就放飛自我吧。

  — Simon Willison

• 氛圍編碼的效益與風險之間的平衡，對於負責任使用至關重要。

• 理解氛圍編碼的限制，對於安全做法很重要。

• 氛圍編碼的限制突顯出：在使用時需要保持謹慎。

• 這種做法適用於個人專案，但用在更廣泛的應用情境時就需要承擔相應責任。

• 氛圍編碼的限制強調了理解科技所帶來影響的重要性。

• 負責任地使用氛圍編碼，對於降低潛在風險至關重要。

區分「隨興」與「專業」編碼

• 「氛圍編碼」這個詞不應該涵蓋所有由 AI 協助的編碼。

• 我認為這會貶低「氛圍編碼」這個詞的價值，因為它本來就能用來說：我 vibe coded 了這個——也就是說，我甚至沒有去看它是怎麼運作的，它還不具備上線就緒性，但它倒是個很酷的原型。

  — Simon Willison

• 區分隨興與專業編碼，對於維持技能的價值很重要。

• 理解不同編碼層級之間的差異，對軟體開發至關重要。

• 這種區分突顯了在由 AI 協助的編碼中，專業技能的重要性。

• 隨著 AI 工具逐步融入開發流程，維持專業技能的價值就變得必不可少。

• 不同編碼層級之間的差異，也強調了需要被看見並辨識技能水準。

• 由 AI 協助的編碼需要理解不同熟練度層級的細微差別。

Agentic engineering 的藝術

• Agentic engineering（代理式工程）強調了需要具備的技能，才能有效地使用 AI 編碼代理。

• 我覺得 agentic engineering 是一門非常深奧且令人著迷的領域，因為要從中得到非常好的結果……這永遠都需要對軟體如何運作、以及這些代理如何運作有所深度的經驗。

  — Simon Willison

• 這門學科突顯了在運用 AI 工具進行編碼時所涉及的複雜性。

• 理解 agentic engineering 對未來的軟體開發實務至關重要。

• Agentic engineering 的藝術，需要深入理解軟體與 AI 代理。

• 這門學科強調有效使用 AI 工具所需的技能與經驗。

• Agentic engineering 是現代軟體開發中不可或缺的一個面向。

• 理解 agentic engineering 對於在編碼中最佳化 AI 的潛力至關重要。

                  **聲明：** 本文由 Editorial Team 進行編修。欲瞭解我們如何建立與審閱內容，請參閱我們的 Editorial Policy。