企业AI控制平面解析：Klique如何统一治理、调度与成本追踪

事件概述

Klique被定义为企业AI的控制平面（Control Plane），位于使用AI的人员、智能体（Agents）与运行AI的基础设施（模型、GPU、集群、云账户）之间。其核心职能是决定资源访问权限、将请求路由至合适资源，并记录每次请求的成本。该平台旨在为不同角色提供自助式服务，同时由IT部门设定政策、配额和预算，从而在保障安全合规的前提下提升AI开发与应用效率。

核心架构与功能模块

Klique的运行依赖于现有基础设施（如Kubernetes集群、云账户和本地系统），无需迁移工作负载或替换现有工具。其核心由三个引擎组成：

1. 治理引擎（Governance Engine）：身份与策略

   • 统一身份管理：每个用户和智能体获得与其组织现有SSO提供商（如Okta或Active Directory）绑定的范围化身份，且拥有独立密钥，杜绝凭证共享。
   • 策略与配额：访问规则、配额和预算绑定到具体身份和项目。即使人员调动，预算随项目流动。
   • 成本追踪：按团队、项目和请求级别追踪Token管理和支出，支持预算上限和速率限制。当团队触及预算时，可自动切换至更便宜的模型以确保持续工作。

2. AI引擎（AI Engine）：构建、部署与消费

   • 统一网关：所有模型（包括内部托管、Hugging Face开源模型及OpenAI/Anthropic等第三方API）均通过同一网关暴露。
   • 智能路由：根据IT设定的成本、性能和数据敏感性策略，自动将请求路由至最合适的模型。例如，合同审查可能路由至前沿推理模型，而简单分类任务则路由至小型模型。此过程对前端用户透明，且无需重写应用程序即可调整后端模型。

3. 编排引擎（Orchestration Engine）：混合硬件调度

   • 跨环境调度：在云端和本地环境中调度不同类型的GPU工作负载。
   • GPU碎片化分配：支持将单个GPU拆分给多个工作负载。小规模推理任务仅占用所需份额，剩余算力可用于训练任务，从而提高硬件利用率。

用户角色与使用场景

Klique服务于四类主要用户，满足其差异化需求：

• AI消费者（AI Consumers）：包括分析师、营销和支持团队。他们从IT审核批准的工具目录中选择AI助手，无需提交工单即可开始工作。
• AI构建者（AI Builders）：负责构建代理应用、数据摄入和模型微调。平台使其能够自主部署，无需等待DevOps介入。
• AI运营者（AI Operators）：即IT管理员和平台所有者。他们负责安全分配资源、跟踪使用情况并管理成本，通过一次性设置规则来覆盖所有团队。
• 智能体（Agents）：作为新型用户，智能体拥有独立的身份、配额和审计轨迹。IT可以像管理人类用户一样监控和限制智能体的支出。

成本追踪与ROI影响

Klique通过网关日志和GPU作业记录，将每一次请求与用户/智能体、团队、项目和模型关联起来。这种机制实现了类似云支出的AI FinOps视图：

• Showback/Chargeback：按团队、项目和预算汇总成本报告，支持成本展示和分摊。
• 混合成本对比：同时追踪外部API的Token支出和自托管模型的基础设施支出，便于比较第三方模型与自有GPU的成本效益。
• 可预测的平台成本：采用按GPU或按用户定价模式，确保随着Token使用量的增长，平台自身成本保持可预测。

在日常操作中，分析师可直接使用批准的AI助手；数据科学家可在部分GPU上启动笔记本进行微调并部署；构建的智能体可按既定预算运行，并在接近限额时自动切换至低成本模型。最终，平台团队可通过单一仪表板查看所有角色的使用情况和支出明细。