10月20日，DeepSeek宣布將在之前開源一系列大模型、TileLang編譯工具及推理算子庫的基礎上，進一步全面開源內部推理框架“DeepInfer”，并同步開放編解碼組件deepseek-recipe。此舉旨在降低使用成本。
DeepSeek公開的信息顯示，推理框架DeepInfer集成高性能算子與深度優化的推理引擎，支持分布式推理、推測解碼、SWA Bounded Replay、結構化輸出等能力，并兼容英偉達與華為昇騰算力平臺。配套開源的deepseek-recipe用于處理應用請求與模型輸入、輸出之間的轉換，幫助第三方部署對齊官方API的處理邏輯。
DeepSeek表示，大模型的能力邊界由模型本身劃定，但如何以合理成本提供超大規模的模型服務還取決于一個長期未被公眾了解的中間層，即推理框架。面對如今海量的用戶調用，推理框架負責統籌調度龐大的算力集群，其效率直接決定了AI服務的算力成本與電力消耗。DeepSeek長期致力于將推理性能推向極致，因此做出這一開源決定，致力于實現大模型普惠。
基于DeepInfer，DeepSeek已實現DeepSeek V4.1 Flash的高吞吐、低延遲大規模推理服務。后續新模型的推理代碼及優化也將在該框架內持續更新。在全球頭部大模型企業中，DeepSeek是首個開放原生實際運行推理框架的企業。這意味著云廠商可以使用DeepSeek原生推理框架部署DeepSeek模型，實現接近DeepSeek官方調用的性能和成本。在負載調度合理的情況下，大規模云廠商部署非原生DeepSeek的調用成本甚至存在低于官方原生的可能性。
DeepSeek希望通過分享內部的部署經驗，幫助開發者與企業組織優化大規模推理的吞吐與延遲，從而高效構建私有化及公有云部署，降低算力成本，減少能源消耗，讓智能以更低的價格觸達更廣泛的人群，實現真正的大模型普惠。
2025年烏鎮峰會期間，舉行了“六小龍烏鎮對話”，前沿科技企業代表圍繞全球人工智能技術創新發展等前沿趨勢進行交流，探索通過跨界合作共同應對全球性議題。2026年烏鎮峰會將于11月2日至5日舉行，聚焦“開源開放”主題。屆時，全球嘉賓將圍繞人工智能開源開放發展的理念與實踐多個維度展開深入交流，共同探索在AI快速發展的階段如何進一步推動技術開放、創新協作和成果共享。
