DeepSeek开源推理代码：打破英伟达与华为昇腾硬件壁垒
2026/10/21 18:29阅读量 4
DeepSeek发布了一套支持Nvidia GPU和华为昇腾处理器的统一推理服务软件，旨在通过单一代码库降低跨硬件平台迁移的成本。在AI芯片供应紧张且算力需求激增的背景下，该举措赋予了中国企业更灵活的采购策略，使其能根据实际供货情况和成本选择硬件，而非被锁定于单一供应商。尽管目前公开基准测试仍偏向Nvidia，且生产级部署的稳定性尚待验证，但这标志着推理层软件生态正趋向中立化。
事件概述
DeepSeek近期发布了其推理服务软件（Serving Software），该软件基于统一的代码库构建，同时支持Nvidia的数据中心GPU和华为的Ascend（昇腾）处理器。这一发布试图改变以往“先选定硬件厂商，再适配软件栈”的传统模式，转而提供一套能够同时兼容两大主流硬件架构的解决方案。
核心信息
- 统一代码库与低迁移成本：该项目的设计目标是将Nvidia和Ascend列为对等的构建目标。在实际操作中，将工作负载从一种硬件迁移到另一种硬件，类似于切换配置开关，而非重新 fork 整个软件栈。这显著降低了企业在供应链波动时的适应成本。
- 应对供应短缺的战略价值：在中国市场，AI加速卡供应持续紧张，而推理流量（Token traffic）急剧上升。大型互联网企业虽仍在大量采购Nvidia产品，但交付延迟风险存在。Dual-path（双路径）软件成为对冲策略，使团队能在同一运营模型中综合评估价格、交货周期和政策限制，从而灵活决定当季采购哪种板卡。
- 推理场景的关键指标：与训练阶段依赖成熟的多芯片互联和复杂生态不同，推理场景更为直接。由于权重固定，胜负取决于延迟、每百万Token成本、系统正常运行时间以及机架利用率。DeepSeek的软件发布正是瞄准了这一环节，旨在消除替代加速器被视为“次要选项”的软件障碍。
值得关注
- 基准测试的现状：目前的公开性能基准数据主要依托于Nvidia硬件。关于Ascend在同一模型、批次大小和延迟目标下的对比数据相对较少，工程实证与营销宣称之间仍存在差距。
- 生产级部署的挑战：此次发布主要侧重于离线推理（Offline Inference），适用于测量和集成测试。然而，大规模生产集群所需的节点间缓存管理、负载均衡及控制平面等复杂组件尚未完全展示。编译层面的兼容性只是第一步，经受住高峰流量考验才是最终考核标准。
- 行业竞争格局演变：Nvidia也在推进针对其GPU优化的开放或半开放推理层，并迭代生产级编排能力。DeepSeek的软件中立化策略可能引发 incumbent（现有主导者）的软件回应。对于中国运营商而言，不硬编码单一供应商的框架赋予了采购和平台团队更大的操作空间，Ascend能否真正成为Nvidia的对等伙伴，将由实际的功耗、毫秒级延迟和账单数据来证明。