OpenAI于2026年10月23日在其官方博客发布题为《Rapidly scaling online storage to serve over 1 billion ChatGPT users (Part II)》的技术文章，详解其自研存储系统Habitat的架构设计。文章称，该系统支撑起超过10亿ChatGPT用户的在线存储需求，并实现12倍的读取速度提升。

这是OpenAI首次系统性地对外披露其超大规模推理基础设施的工程细节。此前该公司已在系列文章第一部分介绍Habitat的相关背景，本次发布的第二部分聚焦规模化扩展中的具体技术方案。

三大支柱支撑规模化扩展

根据OpenAI博客摘要，Habitat的核心能力建立在三个支柱之上：可靠的多租户架构、全局缓存机制，以及Azure Cosmos DB的集成。多租户设计使系统能够在同一基础设施上安全隔离并服务海量用户；全局缓存则用于降低读取延迟、减少对后端存储的重复访问。

了解OpenAI如何通过可靠的多租户、全局缓存和Azure Cosmos DB扩展Habitat，为ChatGPT提供12倍更快的读取。

文章特别强调，上述架构组合最终为ChatGPT带来了12倍的读取性能提升。

架构支柱作用
多租户架构在同一基础设施上安全隔离并服务海量用户
全局缓存降低读取延迟、减少对后端存储的重复访问
Azure Cosmos DB集成用于支撑在线存储需求

超大规模推理基础设施的工程样本

ChatGPT用户规模突破10亿，意味着其存储系统需要应对极高的并发访问与数据一致性挑战。OpenAI选择公开Habitat的技术细节，为外界理解大模型服务的成本结构与架构演进提供了少见的参考样本。

从行业角度看，头部AI公司此前较少系统披露推理侧基础设施的工程实现。Habitat案例显示，在模型能力之外，存储与缓存层的优化同样直接关系到终端服务的响应速度与运营成本。

后续关注点

  • OpenAI是否会在该系列后续文章中披露更多性能指标与成本数据；
  • Habitat架构能否为其他超大规模AI应用提供可复用的工程范式；
  • 多租户与全局缓存在数据隔离、一致性方面的具体实现细节，仍有待官方进一步说明。