中科类脑构建“算电协同型Token工厂”,以系统级调度能力应对AI算力成本挑战

2026/09/24 08:48阅读量 2

中科类脑提出“算电协同型Token工厂”概念,通过统一调度异构算力、模型任务与电力资源,旨在提升单位电能产生的有效Token数量并降低推理成本。其核心产品BitaHub彼塔云平台已接入超5000P算力节点,并在跨三地算电协同测试中验证了高成功率与低延迟。面对Token价格下行趋势,公司依托在异构调度和电力预测领域的长期积累,聚焦科研与能源等高价值场景,试图从单纯的算力提供商转型为Token生产运营层。

事件概述

随着大模型进入规模化推理阶段,数据中心的评价标准正从传统的卡数、算力和PUE转向产出端的Token效率。中科类脑成立九年,将积累的异构算力调度技术与电力智能化经验融合,推出“算电协同型Token工厂”体系。该体系旨在解决芯片空转和资源浪费问题,通过系统级调度让同样的芯片和电力产出更多、成本更低且质量稳定的Token。目前,中科类脑已完成B+轮融资,由中车资本领投,标志着资本市场对该系统级能力的认可。

核心信息与架构

  • 商业模式定位:中科类脑处于产业链的“Token生产运营层”。不同于传统IDC提供机柜电力或云厂商提供算力实例,该公司直接对Token的生产效率、成本和任务结果负责。客户购买的是符合指标的任务完成服务,而非单纯的硬件资源。
  • “1+3”系统架构
    • 决策大脑:由中国科大团队联合研发,统筹算力、Token和电力三个子系统,实现从监控、预测到调度、运营的闭环。
    • 前台平台(BitaHub彼塔云平台):统一纳管英伟达、昇腾等不同架构算力,聚合模型API。平台已接入逾3000个算力节点,总规模超过5000P,累计服务超8万企业及科研用户。支持企业按日常负载自建算力,高峰缺口由平台弹性补齐。
    • 后台调度逻辑:包含监控(实时监测负载、电价、新能源功率)、预测(预判未来绿电出力及任务需求)和决策(调整子系统运行方式)三步流程。

技术突破与实测数据

  • 异构芯片协同:针对英伟达、国产芯片等异构环境,系统为每类芯片配置“包工头”式插件,建立能力画像,解决协作难题。通过将大模型推理的Prefill(预填充)和Decode(解码)阶段拆分,分别交由计算能力强和大显存/高吞吐的芯片处理,并通过KV Cache迁移连接两阶段,减少长上下文重算。
  • 柔性负荷调度:识别任务特性,首Token时延敏感的实时任务原地运行;可排队的批处理任务则转移至电价低谷时段异地运行,利用电力信号优化成本。
  • 跨域调度测试成果:在全国首个跨上海、芜湖和乌鲁木齐的算电协同智能调度测试中,控制响应保持在200秒以内,跨域迁移成功率达到100%,能耗预测精度达到98%。此次测试验证了系统在异构适配、跨域迁移及SLA约束下的联动能力,并实现了电力成本下降。

行业背景与竞争壁垒

  • 市场痛点:国家数据显示,中国日均Token调用量从2024年初的1000亿激增至2026年3月的140万亿,增长超千倍。与此同时,主流模型API累计降价超90%,通用Token利润被迅速压薄。行业竞争焦点正从“有算力”、“模型数量”转向“系统效率”和“场景结果”。
  • 核心壁垒:中科类脑认为,单项的异构调度或绿电预测能力易被追赶,真正的壁垒在于将两套技术语言、工程经验和运行数据整合进同一系统,并在真实业务中长期稳定运行的能力。
  • 场景化变现:公司采取分层解法,底层通过异构调度和KV迁移提升“度电智能”(有效Token/kWh),中层叠加电力协同压低单位成本,顶层则将通用Token组织成高价值场景结果。目前已形成可规模化的商业闭环,重点深耕科研(如AI4S全流程工作流)和能源领域(央国企市场门槛),通过场景差异化获得定价空间。
  • 未来展望:常峰将Token工厂终局比喻为“黑灯工厂”,即无需人工干预,由算力智能体和电力智能体自动完成芯片适配、任务切分及储能控制。长远目标是实现“算-电-芯-模一体化”,让芯片设计阶段即服务于Token生产效率,从而构建难以复制的全链路壁垒。

准备好启动您的定制项目了吗?

现在咨询,即可获得免费的业务梳理与技术架构建议方案。