物理AI规模化部署的核心挑战：构建全栈式安全体系

事件概述

物理AI（Physical AI）正加速从实验室研究迈向大规模实际部署。ABI Research预测，到2035年全球L3-L5级自动驾驶汽车保有量将达到4900万辆；Omdia估计，2026年至2035年间工业机器人的部署量约为6000万台。当这些机器进入道路、工厂和仓库等与人共享的环境时，安全性必须随之扩展至系统的每一个层级，而不仅仅是在部署前进行一次性的检查。

核心信息：为何需要新的安全模型？

当前物理AI的安全标准面临四大转变，要求建立全新的安全框架：

1. 动态环境下的情境感知：道路和工厂等场景无法通过静态区域或物理屏障完全控制。自主系统必须具备感知变化条件、调整行为并在意外发生时达到安全状态的能力。
2. AI行为本身的保障：测试不仅需评估传统功能安全，还需针对AI软件进行设计时、运行时和验证时的护栏约束。ISO/IEC TS 22440等新兴标准已开始应对这些特定于AI的风险。
3. 持续部署与迭代：自动驾驶汽车和机器人通过软件更新、新任务加载和环境变化不断演进。重大变更可能需要额外的安全测试。
4. 规模化验证需求：潜在场景的数量和复杂性要求将现实世界测试与仿真、合成数据生成及场景重建相结合。

NVIDIA Halos全栈安全解决方案

为应对上述挑战，NVIDIA构建了基于十年自动驾驶安全开发经验的NVIDIA Halos全栈安全系统，涵盖以下关键领域：

1. 自动驾驶（AV）安全架构

• 硬件层：采用NVIDIA DRIVE AGX Thor提供安全工程加速计算，以及Hyperion平台作为L4级自动驾驶的参考架构。
• 操作系统与中间件：Halos OS基于通过ASIL-D认证的DriveOS，Halos Core和Middleware支持系统隔离、监控和确定性通信。
• 端到端模型：NVIDIA Alpamayo提供开放推理视觉语言动作模型，增强长尾场景的可解释性。
• 仿真与验证：NVIDIA Halos安全评估框架提供工具和指南，用于生成支持不同自动化级别安全案例的证据。

2. 机器人安全架构

• 硬件层：NVIDIA IGX Thor是工业级模块，集成加速计算和功能安全岛，符合IEC 61508和ISO 13849标准。
• 软件层：Halos Core for IGX提供故障检测、监控和报告等安全相关操作功能的软件基础。
• 实时传感：NVIDIA Holoscan Sensor Bridge连接传感器数据与安全处理，帮助识别无效信息并执行安全响应。
• 仿真与验证：利用NVIDIA Isaac Lab和Omniverse库测试机器人在相关条件和边缘情况下的行为。
• 外部安全：开源的NVIDIA Halos Outside-In Safety Blueprint利用外部摄像头和视觉AI代理，扩展对设施级别的监控能力。

3. 独立评估与认证

• AI系统检查实验室：NVIDIA Halos AI Systems Inspection Lab由ANAB认可为ISO/IEC 17020检查机构，负责将安全、网络安全和AI安全要求转化为可重复的检查流程，协助企业准备第三方最终认证。
• 现有认证成果：
  • TÜV SÜD认证了NVIDIA的汽车产品生命周期软件流程和DriveOS 6.0符合ISO 26262 ASIL D标准，以及汽车工程流程符合ISO/SAE 21434。
  • TÜV Rheinland对NVIDIA DRIVE AV进行了独立的UNECE安全评估。
  • TÜV Rheinland正在检查IGX Thor、Halos OS和Holoscan Sensor Bridge的功能安全认证就绪情况。

生态合作现状

NVIDIA Halos生态系统连接了构建、集成、评估和部署物理AI解决方案的公司：

• 自动驾驶领域：吉利、五十铃、日产（搭载Wayve软件）和Einride正在基于NVIDIA Hyperion开发L4-ready车辆。Uber、Grab、Lyft等出行服务商也在使用Hyperion扩展Robotaxi的开发与部署。AUMOVIO、博世、Gatik、禾赛科技、Lucid、MIRA、onsemi、PlusAI、索尼、法雷奥和Wayve等加入AI系统检查实验室。
• 机器人领域：acontis和QNX提供嵌入式软件；研华科技和NexCOBOT构建基于NVIDIA IGX的安全系统；英飞凌、恩智浦、意法半导体和德州仪器提供传感器和安全微控制器技术；KION集团正在开发用于自动叉车的功能安全代理；Agility Robotics将NVIDIA IGX Thor和Halos Core集成到其Digit 5人形机器人的安全系统中。

结论

规模化物理AI的企业不仅仅是构建最强大的系统，而是构建可被评估、认证、部署并在现实世界中获得信任的系统。从设计初期就融入功能安全，是将原型转化为可扩展解决方案的关键区别。