OpenAI於2026年10月23日在其官方博客發佈題為《Rapidly scaling online storage to serve over 1 billion ChatGPT users (Part II)》的技術文章,詳解其自研存儲系統Habitat的架構設計。文章稱,該系統支撐起超過10億ChatGPT用戶的在線存儲需求,並實現12倍的讀取速度提升。

這是OpenAI首次系統性地對外披露其超大規模推理基礎設施的工程細節。此前該公司已在系列文章第一部分介紹Habitat的相關背景,本次發佈的第二部分聚焦規模化擴展中的具體技術方案。

三大支柱支撐規模化擴展

根據OpenAI博客摘要,Habitat的核心能力建立在三個支柱之上:可靠的多租戶架構、全局緩存機制,以及Azure Cosmos DB的集成。多租戶設計使系統能夠在同一基礎設施上安全隔離並服務海量用戶;全局緩存則用於降低讀取延遲、減少對後端存儲的重復訪問。

瞭解OpenAI如何通過可靠的多租戶、全局緩存和Azure Cosmos DB擴展Habitat,為ChatGPT提供12倍更快的讀取。

文章特別強調,上述架構組合最終為ChatGPT帶來了12倍的讀取性能提升。

架構支柱作用
多租戶架構在同一基礎設施上安全隔離並服務海量用戶
全局緩存降低讀取延遲、減少對後端存儲的重復訪問
Azure Cosmos DB集成用於支撐在線存儲需求

超大規模推理基礎設施的工程樣本

ChatGPT用戶規模突破10億,意味著其存儲系統需要應對極高的併發訪問與數據一致性挑戰。OpenAI選擇公開Habitat的技術細節,為外界理解大模型服務的成本結構與架構演進提供了少見的參考樣本。

從行業角度看,頭部AI公司此前較少系統披露推理側基礎設施的工程實現。Habitat案例顯示,在模型能力之外,存儲與緩存層的優化同樣直接關係到終端服務的響應速度與運營成本。

後續關注點

  • OpenAI是否會在該系列後續文章中披露更多性能指標與成本數據;
  • Habitat架構能否為其他超大規模AI應用提供可復用的工程範式;
  • 多租戶與全局緩存在數據隔離、一致性方面的具體實現細節,仍有待官方進一步說明。