AI推理
標籤「AI推理」下的全部文章
- 242026-10DeepSeek開源推理系統DeepInfer：單集群日收入2200萬美元據Latent Space報道，DeepSeek開源了SOTA級推理系統DeepInfer。披露數據顯示，單集群日處理155萬億token，日收入約2200萬美元，利潤率約80%，回本週期約81天。該開源動作被形容為來自中國的“炸彈”，但技術細節與數據口徑尚未公開。
- 242026-10一張GPU卡時定價四重測算：38美元理論值與2.44美元實際值相差15倍Tomasz Tunguz於2026年10月21日發佈分析，結合SpaceX第三季度報告與DeepSeek推理披露，對單張GPU卡時給出四種口徑定價，區間從38美元理論最高值到2.44美元實際值，相差約15倍。分析認為，結合不到一年回本的說法及2027年大部分尚未建成的供給管線，大規模推理業務經濟性健康，價格仍有上行空間。
- 242026-10英偉達發佈Rubin CPX專用推理加速器英偉達發佈Rubin CPX，一款針對推理prefill階段優化的專用加速器，採用單die設計，算力與內存帶寬之間明顯偏向算力。SemiAnalysis稱其重要性僅次於GB200 NVL72機架級形態的發佈，影響或波及芯片設計、服務器集成與雲服務定價。
- 242026-10DeepSeek開源推理系統DeepInfer披露運營數據DeepSeek發佈開源推理系統DeepInfer，披露單集群日處理155萬億token、日收入2200萬美元、利潤率約80%、投資回收期81天。報道稱其為開源“炸彈”，但技術細節與數據驗證方式尚未公開。