2024 年至 2025 年间，AI 工程师 Chip Huyen 在其个人博客发表系列文章，系统梳理生成式 AI 平台的工程实践、智能体的核心能力以及构建 AI 应用时常见的陷阱。三篇文章分别发布于 2024 年 7 月 25 日、2025 年 1 月 7 日和 2025 年 1 月 16 日，内容源自其著作《AI Engineering》（2025）并做了独立成篇的编辑。

生成式 AI 平台的通用架构

在《Building A Generative AI Platform》一文中，Huyen 基于对多家公司部署生成式 AI 应用的观察，发现其平台存在许多相似之处。她指出，最简单的架构仅包含查询发送至模型、模型生成响应并返回用户的过程，没有护栏、没有增强上下文，也没有优化。其中的“Model API”既指第三方 API（如 OpenAI、Google、Anthropic），也指自托管 API。

Huyen 建议从这一最简架构出发，根据需求逐步添加组件。她列举了常见的扩展方向：

  • 通过让模型访问外部数据源和信息收集工具来增强上下文输入；
  • 加入护栏以保护系统和用户；
  • 添加模型路由和网关以支持复杂管道并增强安全性；
  • 利用缓存优化延迟和成本；
  • 添加复杂逻辑和写操作以最大化系统能力。

她强调，评估在开发过程的每一步都是必要的，组件可以根据系统实际运行情况跳过，不必严格遵循特定顺序。

智能体：工具与规划决定能力

在《Agents》一文中，Huyen 引用 Stuart Russell 和 Peter Norvig 的经典教材《Artificial Intelligence: A Modern Approach》（Prentice Hall, 1995），指出该书将 AI 研究领域定义为“理性智能体的研究与设计”。她认为，基础模型前所未有的能力打开了此前无法想象的智能体应用之门，使得开发自主、智能的代理成为可能，这些代理可以充当助手、同事和教练，帮助创建网站、收集数据、规划旅行、进行市场调研、管理客户账户、自动化数据录入、准备面试、面试候选人、谈判交易等。

Huyen 指出，智能体的能力取决于两个关键方面：工具和规划。她同时提醒，智能体因其新的运行模式而带来了新的失败模式，文章最后讨论了如何评估智能体以捕捉这些失败。她特别注明，AI 驱动的智能体是一个新兴领域，目前尚无成熟的理论框架来定义、开发和评估它们，该节内容是基于现有文献的最佳尝试。

常见陷阱：不要为了生成式 AI 而生成式 AI

在《Common pitfalls when building generative AI applications》一文中，Huyen 指出，由于我们仍处于使用基础模型构建应用的早期阶段，犯错是正常的。她根据公开案例研究和个人经验，总结了一些最常见的陷阱，并称如果参与过任何 AI 产品，很可能已经见过这些陷阱。

她列出的第一个陷阱是“在不需要生成式 AI 时使用生成式 AI”。她引用资深工程师的普遍感叹——“不是所有东西都是钉子”——并指出生成式 AI 看似无限的能力只会加剧将其用于一切的倾向。

“不是所有东西都是钉子。”——Chip Huyen 引用资深工程师的感叹

Huyen 举了一个例子：一个团队向她推销使用生成式 AI 优化能源消耗的想法。他们将家庭的能源密集型活动清单和每小时电价输入 LLM，要求它制定一个最小化能源成本的日程。实验显示，这可以帮助家庭减少 30% 的电费。她反问：“与简单地在电价最低时安排最耗能的活动相比，比如晚上 10 点后洗衣服和给车充电，效果如何？”团队表示稍后会尝试并告知结果，但再也没有跟进，不久后便放弃了这个应用。Huyen 怀疑这种贪心调度可能相当有效，即使不然，也有其他更便宜、更可靠的方法。

后续关注

Huyen 的系列文章为正在落地 AI 产品的工程团队提供了实操参考。她强调评估在开发每一步的必要性，并指出智能体领域仍缺乏成熟的理论框架。对于构建生成式 AI 应用的团队而言，避免“为了生成式 AI 而生成式 AI”的陷阱，并系统性地设计平台组件与智能体能力，是值得持续关注的工程实践方向。