清华系团队发布国产Token优化工厂“拓元”：兼容10余种国产芯片，日吞吐千亿Token

事件概述

7月17日，WAIC 2026上海开幕，清华系团队是石科技发布国产Token优化工厂“拓元”（Vectron）。该产品定位于AI基础设施效率优化，旨在解决当前中国智算中心算力利用率低、异构芯片难以统一调度、大模型推理成本高等核心痛点。

核心信息

• 背景与问题：中国已建设50多个智算中心，智能算力总规模超1000 EFLOPS，但平均利用效率远未跑满，算力浪费严重。行业共识正从“算力规模竞赛”转向“算力效率竞赛”。
• 产品能力：拓元全面兼容昇腾、昆仑芯、天数智芯、太初、瀚博半导体、摩尔线程、沐曦、燧原等10余种国产芯片，适配20余个主流模型，每日Token吞吐量达千亿级别，实现国产异构算力池统一调度与推理加速。
• 核心技术：
  • KV Cache压缩：结果感知驱动压缩技术，显著降低长文本显存压力，让长上下文应用经济可行。
  • 全模态推理Token压缩：基于模态自适应的免训练Token压缩，为文本、视频、语音等不同输入精准筛选关键信息，减少无效计算。
  • 长上下文优化：通过混合位置索引合成训练和记忆引导重读机制，支持百万级长序列高效处理。
  • 可靠深度推理：基于元奖励的可扩展奖励建模，实现模型自主优化，降低人工反馈依赖。
  • 智能体长程任务记忆机制：以目标导向的信息记忆策略，解决稀疏信息监测和长程建模资源限制问题。
• 公司背景：是石科技成立于2021年，创始团队源自清华大学计算机系，具备国家级计算中心工程化经验；已服务超过200家客户，覆盖互联网、大模型、航空航天、生物制药、新能源等领域。

值得关注

拓元的发布标志着国产算力生态从“芯片可用”走向“系统好用”的关键一步。通过在异构芯片与上层应用之间构建统一的优化层，该平台有望大幅降低企业使用国产算力的门槛与成本，推动AI应用规模化落地。