中昊芯英发布二代TPU芯片“须臾”，华东首个国产TPU千卡集群落地杭州
2026/07/23 20:58阅读量 2
中昊芯英在WAIC期间发布第二代自研TPU芯片“须臾”，混合精度浮点算力达896 TFLOPS，8-bit推理算力1792 TOPS，性能约为上一代三倍。同时，华东首个国产TPU千卡集群在杭州落成，由杭州电信、中兴通讯和中昊芯英共建，面向大模型训练与推理。
中昊芯英在WAIC期间发布第二代自研TPU芯片“须臾”，并宣布华东首个国产TPU智算千卡集群在杭州落成。
芯片性能
- 混合精度浮点算力：896 TFLOPS
- 8-bit推理算力：1792 TOPS
- 额定功耗：600W
- 性能约为上一代芯片的三倍
- 设计改进包括：计算流水线重构、双芯粒同基板封装、片上存储容量与带宽提升
集群建设
集群由杭州电信、中兴通讯和中昊芯英共同建设，是中国电信体系内首个大规模国产TPU集群部署项目，面向大模型训练、推理和科学计算。经过数月软硬件调优，Token输出效率较年初提升超过10倍。
背景与意义
大模型推理需求快速增长，TPU牺牲通用性换取在特定任务中的计算密度和能效，适合PD分离（Prefill与Decode阶段分开调度）等场景。中昊芯英已适配Qwen、DeepSeek、GLM等主流开源模型。国产TPU需解决芯片性能、开发者迁移、模型适配和客户调用等生态问题，运营商角色正转向按Token或模型能力提供算力服务。