DeepSeek：全面开源大规模云服务推理框架DeepInfer

　　10月20日消息，刚刚，DeepSeek宣布，正式开源大规模云服务推理框架 DeepInfer。

　　DeepSeek表示，自身长期致力于将推理性能推向极致。在此前开源一系列大模型、TileLang 编译工具及推理算子库的基础上，决定进一步将内部推理框架 DeepInfer 全面开源。

　　基于 DeepInfer，DeepSeek已实现 DeepSeek V4.1 Flash 高吞吐、低延迟的大规模推理服务。目前单一集群的服务吞吐是 155 万亿 Tokens/天，整体收入是每卡每小时 38 美金（按谷价）。未来，DeepSeek 新模型的推理代码及后续优化也将在此持续更新。

　　此次开源包括：

　　DeepInfer 推理框架：集成高性能算子与深度优化的推理引擎，支持分布式推理、推测解码、SWA Bounded Replay、结构化输出等能力，兼容英伟达与华为昇腾平台。

　　Deepseek-recipe 编解码组件：同步开源的生产级 Token 编解码组件，与 DeepSeek 官方 API 处理逻辑完整对齐，确保社区获得与官方部署一致的 API 体验。

　　DeepSeek表示，借助全面开源的模型、算子库与推理框架，期待着在不远的未来，能够看到全球 AI 服务的范围与质量获得前所未有的扩展与提升，变得更加公平、透明、可信赖，进而实现在全社会范围内加快技术迭代、减少能源浪费，让有限的资源以更高的效率在基础设施与用户终端之间流转，以每个人都能够负担的成本传递更加强大的智能，以及伴随着智能的善意和无限可能性。