英伟达引入 Groq LPU 架构，OpenAI 成首个推理芯片大客户

英伟达收购 Groq 技术后推出专用推理芯片，不再单纯依赖 GPU 跑大模型。 解决传统 GPU 在大模型推理（特别是生成阶段）延迟高、数据搬运能耗大的问题。 采用片上 SRAM 架构减少内存瓶颈，配合英伟达渠道快速落地，实现极致 ROI。