DeepSeek开源推理框架DeepInfer：华为昇腾与英伟达芯片实现对等支持
2026/10/21 14:17阅读量 4
10月20日，DeepSeek宣布开源自研推理框架DeepInfer，原生支持华为昇腾950系列NPU与英伟达Blackwell架构GPU。该框架通过统一代码树和单一环境变量切换硬件，显著降低了国产芯片在AI基础设施中的适配成本。此举标志着在推理场景下，国产芯片正从“补充角色”向“对等主力角色”转变，有望加速国产芯模协同进程。
事件概述
10月20日，DeepSeek正式开源自研推理框架DeepInfer。该框架的核心突破在于实现了对华为昇腾（Ascend）与英伟达（NVIDIA）芯片的对等支持。目前，华为昇腾950系列NPU与英伟达SM100（Blackwell架构GPU）均被纳入官方支持名单，且两者处于同一代码树构建选项中。
核心技术与行业影响
- 降低迁移成本：在DeepInfer框架下，开发者仅需修改一个环境变量即可在华为与英伟达硬件之间完成切换。这打破了以往因CUDA生态壁垒导致的“英伟达优先”惯性，使得开发团队可根据供货、成本及合规要求灵活选择硬件，理论上抹平了不同硬件间的迁移门槛。
- 推理赛道的新机遇：业内观点认为，虽然训练芯片生态壁垒极高，但推理场景更关注成本、效率和系统能力，门槛相对较低。随着推理需求爆发，国产芯片凭借丰富的应用场景，有望通过真实的业务部署积累优化经验，形成正向循环，从而在推理领域实现生态突围。
- 供应链背景：近期互联网大厂大批量采购英伟达显卡以满足推理需求，导致供给紧张。DeepInfer的对等兼容性为国产芯片提供了进入主流商业部署的机会，有助于缓解供应缺口并降低对英伟达的依赖。
局限性与未来展望
- 性能基准待验证：目前DeepInfer公开的性能基准主要基于英伟达GPU，尚缺乏昇腾950在相同负载下的吞吐量、延迟和能耗对比数据。此外，该框架目前开放的是离线推理版本，KV Cache管理、负载均衡等生产级组件尚未完全公开，大规模商业部署的实际表现仍需第三方实测验证。
- 竞争加剧：英伟达已于2025年3月开源推理框架Dynamo并进行生产级迭代，其在推理场景的战略布局日益深入，市场竞争将更为激烈。
- 深层合作进展：尽管推理框架取得突破，但在训练端，DeepSeek正与华为深度合作设计下一代AI芯片。华为工程师已进驻参与研发，计划优先供应下一代训练芯片以优化数据处理能力，进一步降低先进模型训练中对英伟达的依赖。