NVIDIA发布Nemotron 3.5系列：Super VL与Bolt模型实现从数据中心到边缘的高效智能部署

事件概述

NVIDIA于2026年10月15日发布了Nemotron 3.5系列新模型，旨在扩展其开源AI模型家族，实现从数据中心到桌面端的高效智能代理（Agentic AI）部署。此次发布包括旗舰级多模态模型Nemotron 3.5 Super VL，以及针对边缘计算优化的两款Bolt模型：Nemotron 3.5 Bolt 74B-A9B 24GB和Nemotron 3.5 Bolt E4B 4GB。这一组合填补了高性能推理与本地低延迟需求之间的空白，允许组织在不牺牲能力的前提下灵活选择部署层级。

核心信息

1. Nemotron 3.5 Super VL：前沿精度与极致效率

• 架构与性能：拥有1200亿参数，是同类中最快的开源代理模型，任务完成速度比次优模型快5倍。其在多模态代理任务（如指令遵循、工具使用、多步业务流程和视觉理解）上的准确性可与NVIDIA最大的推理模型相媲美，但参数量仅为后者的约五分之一。
• 视觉能力：具备强大的视觉语言处理能力，能够直接处理网页、PDF、表格和图表，无需将任务路由到单独系统即可提取洞察并做出决策。
• 开放性与定制：提供开放权重、数据集和训练配方。支持通过NVIDIA NeMo框架进行后训练（Post-training），使组织能根据特定数据、工具和策略对模型进行微调，确保数据隐私和安全合规。
• 可用性：现已在Hugging Face、Open Router、ModelScope社区及NVIDIA NIM微服务中可用。

2. Nemotron 3.5 Bolt：边缘侧的代理智能

• Bolt 74B-A9B 24GB：专为本地NVIDIA RTX/DGX Spark设备设计，采用原生2位量化技术，可在24GB内存中运行。它在智能与速度之间取得平衡，适合研究、写作和代码调试等日常代理任务。在PinchBench和BrowseComp基准测试中表现优异。
• Bolt E4B 4GB：面向GeForce RTX、Jetson及RTX/DGX Spark等设备，专注于快速对话代理、语音助手和嵌入式界面，提供每GB最高的智能密度。
• 发布时间：Bolt 74B-A9B现已可用；Bolt E4B将于10月23日上线。

3. 生态系统与行业应用

• 广泛采用：数十家跨行业组织正在对Super VL进行后训练以优化特定任务。例如：
  • Scale AI：为Skydance和EY定制财务和并购尽职调查代理。
  • AfterQuery：为Hebbia定制信用协议分析。
  • AI21 & Alice：用于网络安全攻击韧性。
  • Mercor：用于规划、编写和调试代码的编程代理。
  • 其他案例：Ramp（金融文档）、Dream（主权AI安全）、Lila Sciences（科学发现）、R1（医疗索赔分析）、Nolla（皮肤科处方）。*
• 软件平台集成：Atlassian（Jira/Confluence搜索）、CrowdStrike（企业安全蓝队）、Dassault Systèmes（工程设计）、Perplexity（搜索代理）、Salesforce（政府工作流自动化）和Synopsys（半导体设计验证）均正在整合或定制该模型。

4. 基础设施与支持

• 硬件兼容性：Super VL支持NVIDIA全硬件栈，包括DGX Spark、DGX Station、RTX PRO工作站、Jetson边缘设备及数据中心/云环境。
• NVIDIA NIM与Dynamo：模型打包为生产就绪的微服务，每两周更新一次安全补丁和性能改进。结合NVIDIA Dynamo，可实现高达8倍的并发用户支持和85%的延迟降低。
• 训练数据：Super VL经过约26万亿token预训练，并使用约380万样本进行后训练和强化学习。NVIDIA同步发布了涵盖代理工具使用、金融、长上下文等领域的开放数据集。