Salesforce Agent Fabric 新增评估与成本管控功能，强化企业级 AI 代理治理

事件概述

Salesforce 宣布对其 AI 代理构建平台 Agent Fabric 进行功能升级，重点增加了针对代理性能评估（Agent Evals）和运行成本管控（Cost Controls）的工具。这一举措旨在帮助企业在将 AI 代理集成到关键业务流程时，更好地管理风险、确保输出质量并控制资源消耗。

核心信息

• Agent Evals（代理评估）：

  • 该功能允许用户定义特定的评估指标，以衡量 AI 代理在执行任务时的表现。
  • 支持对代理的输出结果进行自动化或半自动化的评分，确保其符合业务标准和质量要求。
  • 有助于识别代理在复杂工作流中的潜在缺陷，提升代理的可靠性和一致性。

• Cost Controls（成本管控）：

  • 提供细粒度的预算管理和支出监控机制，使企业能够设定代理运行的成本上限。
  • 实时监控 API 调用次数、令牌消耗等资源使用情况，防止意外的高额账单。
  • 增强了对 AI 基础设施支出的可见性，便于财务规划和优化。

• 战略意义：

  • 随着企业越来越多地采用自主 AI 代理处理客户服务、数据分析等任务，可解释性、安全性和经济性成为主要障碍。
  • 此次更新反映了 Salesforce 致力于将 Agent Fabric 打造为适合生产环境的企业级平台，强调“治理即服务”的理念。
  • 通过内置的评估和成本控制工具，降低了企业部署和管理大规模 AI 代理的技术门槛和运营风险。

值得关注

• 企业用户在规划 AI 代理部署策略时，应重点关注如何利用新工具建立标准化的评估体系。
• 成本管控功能的引入可能促使更多企业重新审视其 AI 应用的 ROI（投资回报率）模型。
• 未来可能会看到更多围绕 AI 代理生命周期管理的配套工具和服务出现。