【财新网】
DeepSeek将内部推理框架DeepInfer全面开源
10月20日,DeepSeek宣布,在此前开源一系列大模型、TileLang编译工具及推理算子库的基础上,决定进一步将内部推理框架 DeepInfer全面开源。其中,DeepInfer推理框架集成高性能算子与深度优化的推理引擎,支持分布式推理、推测解码、SWA Bounded Replay、结构化输出等能力,兼容英伟达与华为昇腾平台;deepseek-recipe编解码组件方面,同步开源的生产级Token编解码组件,与 DeepSeek官方API处理逻辑完整对齐,确保社区获得与官方部署一致的API体验。























京公网安备 11010502034662号 