AI编程Agent 10小时搭出类CUDA软件，英伟达护城河松动了？

事件概述

英伟达围绕GPU建立的CUDA软件生态，被视为其芯片业务最深的护城河。CUDA由Ian Buck带队开发近20年，覆盖内核、计算库、开发框架与生态。近日，AI软件创业公司Infinity用自研AI Agent Ignition，只花10小时为AI推理芯片公司d-Matrix搭建了一套类CUDA底层软件。

核心信息

• Infinity由Jeremy Nixon创立，他曾任Google Brain研究员。Ignition可自动生成GPU Kernel、运行测试、定位错误、测量性能并据此改写代码。

• d-Matrix成立于2019年，主攻生成式AI推理芯片。Infinity这次攻入的主要是CUDA最底层：为不同芯片生成并优化推理Kernel，并未在10小时内复制CUDA近20年积累的完整生态。

• 这一成果帮助Infinity获得1500万美元融资，估值达1亿美元。

• DeepSeek也开源了名为TileKernels的GPU算子库，使用TileLang编写，以减少手写底层CUDA的工作量。

为什么是推理侧

大模型训练仍高度依赖CUDA，训练对性能、稳定性和集群协同极为敏感，客户不敢轻易换芯片；推理侧更关注每个回答的成本，且允许小集群或单卡运行。由于推理框架可以跨芯片支持，用户能在不同硬件之间切换而无需重写代码，CUDA的锁定效应因此被削弱。

d-Matrix CEO Sid Sheth表示，英伟达在训练领域仍占主导，但推理护城河有所削弱；Rebellions CMO Marshall Choy认为，推理侧CUDA不再是决定因素，将变成开源软件的竞争。其他布局推理市场的玩家还包括Rebellions、Cerebras、亚马逊Inferentia、谷歌TPU、AMD MI300X等。

业内观点

• INT21创始人Bing Xu（此前曾在英伟达任职）认为，AI Agent能在短时间内生成大量代码，但验证才是最大瓶颈；CUDA最深的资产正是验证工具链，这可能成为下一道护城河。

• Modular CEO Chris Lattner认为，编码Agent带来的改进是渐进式的，炒作被严重夸大。理由是生产级优化才决定芯片性能，公开代码数据有限，且几百万行存量代码的迁移属于组织决策，并非技术能单独解决。

• 英伟达开发者生态副总裁Ankit Patel表示，英伟达自己也在用AI Agent更快开发CUDA，并已在更大规模上验证。

总体来看，短期英伟达CUDA护城河仍难被颠覆，变化可能先从推理侧发生；长期竞争焦点正从存量代码转向验证与优化生态。