2024 年至 2025 年間，AI 工程師 Chip Huyen 在其個人博客發表系列文章，系統梳理生成式 AI 平台的工程實踐、智能體的核心能力以及構建 AI 應用時常見的陷阱。三篇文章分別發佈於 2024 年 7 月 25 日、2025 年 1 月 7 日和 2025 年 1 月 16 日，內容源自其著作《AI Engineering》（2025）並做了獨立成篇的編輯。

生成式 AI 平台的通用架構

在《Building A Generative AI Platform》一文中，Huyen 基於對多家公司部署生成式 AI 應用的觀察，發現其平台存在許多相似之處。她指出，最簡單的架構僅包含查詢發送至模型、模型生成響應並返回用戶的過程，沒有護欄、沒有增強上下文，也沒有優化。其中的“Model API”既指第三方 API（如 OpenAI、Google、Anthropic），也指自托管 API。

Huyen 建議從這一最簡架構出發，根據需求逐步添加組件。她列舉了常見的擴展方向：

  • 通過讓模型訪問外部數據源和信息收集工具來增強上下文輸入；
  • 加入護欄以保護系統和用戶；
  • 添加模型路由和網關以支持複雜管道並增強安全性；
  • 利用緩存優化延遲和成本；
  • 添加複雜邏輯和寫操作以最大化系統能力。

她強調，評估在開發過程的每一步都是必要的，組件可以根據系統實際運行情況跳過，不必嚴格遵循特定順序。

智能體：工具與規劃決定能力

在《Agents》一文中，Huyen 引用 Stuart Russell 和 Peter Norvig 的經典教材《Artificial Intelligence: A Modern Approach》（Prentice Hall, 1995），指出該書將 AI 研究領域定義為“理性智能體的研究與設計”。她認為，基礎模型前所未有的能力打開了此前無法想象的智能體應用之門，使得開發自主、智能的代理成為可能，這些代理可以充當助手、同事和教練，幫助創建網站、收集數據、規劃旅行、進行市場調研、管理客戶賬戶、自動化數據錄入、準備面試、面試候選人、談判交易等。

Huyen 指出，智能體的能力取決於兩個關鍵方面：工具和規劃。她同時提醒，智能體因其新的運行模式而帶來了新的失敗模式，文章最後討論了如何評估智能體以捕捉這些失敗。她特別注明，AI 驅動的智能體是一個新興領域，目前尚無成熟的理論框架來定義、開發和評估它們，該節內容是基於現有文獻的最佳嘗試。

常見陷阱：不要為了生成式 AI 而生成式 AI

在《Common pitfalls when building generative AI applications》一文中，Huyen 指出，由於我們仍處於使用基礎模型構建應用的早期階段，犯錯是正常的。她根據公開案例研究和個人經驗，總結了一些最常見的陷阱，並稱如果參與過任何 AI 產品，很可能已經見過這些陷阱。

她列出的第一個陷阱是“在不需要生成式 AI 時使用生成式 AI”。她引用資深工程師的普遍感嘆——“不是所有東西都是釘子”——並指出生成式 AI 看似無限的能力只會加劇將其用於一切的傾向。

“不是所有東西都是釘子。”——Chip Huyen 引用資深工程師的感嘆

Huyen 舉了一個例子：一個團隊向她推銷使用生成式 AI 優化能源消耗的想法。他們將家庭的能源密集型活動清單和每小時電價輸入 LLM，要求它制定一個最小化能源成本的日程。實驗顯示，這可以幫助家庭減少 30% 的電費。她反問：“與簡單地在電價最低時安排最耗能的活動相比，比如晚上 10 點後洗衣服和給車充電，效果如何？”團隊表示稍後會嘗試並告知結果，但再也沒有跟進，不久後便放棄了這個應用。Huyen 懷疑這種貪心調度可能相當有效，即使不然，也有其他更便宜、更可靠的方法。

後續關注

Huyen 的系列文章為正在落地 AI 產品的工程團隊提供了實操參考。她強調評估在開發每一步的必要性，並指出智能體領域仍缺乏成熟的理論框架。對於構建生成式 AI 應用的團隊而言，避免“為了生成式 AI 而生成式 AI”的陷阱，並系統性地設計平台組件與智能體能力，是值得持續關注的工程實踐方向。