Notch 如何在受监管环境中安全部署具备执行能力的 AI 代理
Notch 在受监管的保险行业成功部署了能够端到端解决客户问题的 AI 代理，12 个月内处理超 1000 万张工单并实现高达 87% 的自动完结率。该方案通过构建包含对话安全、防攻击、权限控制、业务限制及区域合规的五层防护体系，确保 AI 在执行支付、退款等高风险操作时的可审计性与安全性。Notch 利用 Microsoft Azure 支撑其高可用架构，并通过 Microsoft for Startups 计划加速企业级产品的市场落地。
事件概述
AI 在客户服务领域的应用正从“回答问题”向“执行操作”转变，这在保险等受监管行业中尤为关键。单一错误可能导致合规问题、客户受损或财务损失。Notch 公司致力于解决这一难题，构建了能够在受监管环境中实现真正自主解决的 AI 代理系统。
核心成果数据：
- 处理规模：在客户部署中已处理超过 1000 万张支持工单。
- 解决效率：12 个月内实现了高达 87% 的端到端自动完结率（Agent 完成整个工作流，而不仅仅是回复）。
- 成本效益：此前融资信息显示，其 AI 代理可将企业支持成本降低 50%。
核心挑战与解决方案
为什么传统模型失效？
在保险等行业，“支持”往往涉及在记录系统中执行具有真实财务和法律后果的操作（如身份验证、支付、退款）。传统聊天机器人只能分流工单，无法在确定性控制和清晰审计轨迹下安全地完成端到端工作流。
Notch 的架构设计
Notch 构建了一个内部操作系统层，将对话式 AI 与结构化执行逻辑相结合，强制要求权限管理、验证以及在政策或数据不明确时进行升级（Escalation）。
五大安全护栏（Guardrails）
为确保自主性安全且可靠，Notch 采用了五层控制体系，当风险上升或上下文不完整时触发升级机制：
- 对话安全检查：监控循环、挫败信号或禁止话题等边界风险，一旦检测到不确定性即升级。
- 防御欺骗与滥用：针对提示注入（Prompt Injection）、指令走私、工具滥用及内部逻辑提取等攻击行为建立防御。
- 明确的访问规则：基于经过验证的状态（如认证、角色、渠道、区域等身份信号）设定硬性规则，无权限则无法执行操作。
- 高风险业务的限制：即使对合格用户也设置执行硬停止，包括阈值、滚动计数器和审批要求。
- 区域与司法管辖区规则：确保工作流、披露内容和允许的操作符合当地监管要求。
技术栈与市场策略
- 基础设施：Notch 在 Microsoft Azure 上运行其模型和代理编排，以保障生产环境所需的可用性、低延迟和弹性。
- 市场分发：利用 Microsoft Marketplace 简化企业在 Microsoft 环境中的发现、采购和部署流程。
- 生态支持：通过 Microsoft for Startups Pegasus Program 增强了企业就绪度和市场执行能力。
关键启示
对于在受监管环境中构建 AI 代理的团队，Notch 的案例提供了以下蓝图：
- 早期定义权限。
- 为升级机制而设计。
- 将可审计性视为核心产品功能，而非后期附加项。
- 在不牺牲速度的前提下，通过分层护栏实现控制与自主性的平衡。