范式智能联合睿思智联发布开源生产级AI部署平台ModelSphere
2026/10/16 15:16阅读量 2
10月16日，范式智能与睿思智联联合推出开源一站式生产级AI部署平台“模域”（ModelSphere），面向企业免费开放。该平台整合算力管理、模型部署与运行优化，旨在降低大模型落地门槛并提升异构算力利用率。核心优势包括简化部署流程、通过AutoTune策略实现性能跃升约4倍，以及统一调度华为昇腾等多国产品牌芯片资源。
事件概述
2026年10月16日，范式智能技术集团有限公司（股票代码：6682.HK）联合北京睿思智联科技有限公司宣布，一站式生产级AI部署平台“模域”（ModelSphere）正式上线。该平台基于Apache 2.0协议在GitHub全面开源，致力于解决企业在算力统筹、模型部署及效能优化中面临的资源利用率低、芯片生态割裂及运维复杂等痛点。
核心功能与优势
1. 简化部署与企业级稳定性保障
- 图形化操作： 提供预置部署能力与图形化面板，减少环境配置代码编写，支持快速搭建推理服务。
- 高可用架构： 内置自动弹性扩缩容、PD分离部署、三级KV缓存、高可用负载均衡及服务断流自动续写等企业级特性，确保生产环境稳定运行。
2. 自动化调优与性能提升
- 智能调度： 内置AutoTune智能模型排期策略及自适应负载均衡调度，优化请求处理能力与首字响应速度。
- 效率跃升： 系统极限吞吐效率较基准大幅提升约285%，性能达到原来的4倍，实现算力的高效释放。
3. 异构算力统一管理
- 多芯片适配： 融合EngineX推理引擎，深度调优并统一混合调度华为昇腾、天数智芯、摩尔线程、海光DCU等多种国产算力资源。
- 降低适配成本： 用户无需针对不同芯片重写底层逻辑代码，减少重复适配工作。
4. 主流模型快速落地
- 广泛兼容： 已适配优化DeepSeek-V4/V4-Flash、Qwen、Kimi、MiniMax、GLM等主流开源模型。
- 快速迭代： 支持新模型发布后快速部署至生产环境并进行性能调优。
技术架构
模域采用分层协作架构：底层依托vLLM、SGLang等推理引擎提升单机计算效率；上层由模域负责集群架构级的纳管与优化，涵盖负载和缓存感知的请求路由、统一KV缓存池、基于服务质量的自动化扩缩容、线上数据驱动的自动化性能调优及运行监控等服务管理功能，保障系统的高性能与高可用性。