ICML 精选 Spotlight Poster 汇总:Session 5-1

2026/07/08 18:11阅读量 2

ICML 2026正会第二天,Spotlight论文涵盖图像理解、端到端自动驾驶、大模型推理机制、因果结构学习、张量内存虚拟化、机器人持续学习、微服务根因分析、VLA泛化等多个方向。本文精选Session 5-1的9篇Spotlight论文,展示从底层系统到前沿模型的代表性进展。

ICML 2026于7月8日进入正会第二天。本届大会共接收6352篇论文,其中Spotlight论文536篇(占投稿总数的2.2%),Oral论文168篇(占0.7%)。从本次Spotlight论文可以看出以下趋势:

  • 具身智能与自动驾驶加速推进,视觉-语言-动作(VLA)模型成为解决高延迟、灾难性遗忘与跨环境泛化落地的核心技术;
  • 大模型研究向内深挖免训练推理机制(如利用l2范数),向外追求多模态感知层级的统一理解;
  • 因果推断在统计理论打通与复杂微服务故障定位上展现双重潜力;
  • 张量内存虚拟化与轻量级免训练算法成为支撑前沿AI的刚性需求。

1. L2范数作为大语言模型推理的内生信号

The Tell-Tale Norm: l2 as Reasoning Signal in LLMs
提出将隐藏状态的l2范数作为衡量推理强度的内生指标。通过稀疏自动编码器观察并证明后期层中推理特征激活增强与l2范数变化相关,进而设计三种基于l2范数的测试时调整技术(层级递归、内生状态引导、响应选择),完全无需额外训练或数据。实验表明该方法能有效提升多种架构的推理性能。

2. Lottery Prior:随机神经网络压缩实现零样本逆问题求解

Lottery Prior: Randomized Neural Compression for Zero-Shot Inverse Problems
发现随机网络结构本身可作为架构先验,提出轻量化解算器“Lottery Prior”。结合压缩理论,通过随机网络和集合优化实现基于率失真约束的隐式正则化。在去噪、含噪超分辨率、图像修复等任务中,仅用更少有效参数即达到SOTA,并提供了非渐进误差界。

3. UniPercept:统一感知级图像理解框架

UniPercept: Towards Unified Perceptual-Level Image Understanding across Aesthetics, Quality, Structure, and Texture
针对多模态大模型在感知层级(美感、画质等)理解薄弱的问题,提出涵盖美学、质量、结构、纹理四大领域的统一框架。采用“领域自适应预训练”+“任务优化强化学习”,构建强基线模型UniPercept,并发布大规模分层数据集和基准UniPercept-Bench。

4. AutoMoT:异步混合Transformer端到端自动驾驶统一模型

AutoMoT: A Unified Vision-Language-Action Model with Asynchronous Mixture-of-Transformers for End-to-End Autonomous Driving
解决VLM引入自动驾驶时的推理延迟与动作分布错位问题。构建统一VLA模型,采用混合Transformer和异步任务执行机制优化推理效率,并结合扩散式微调的动作精炼模块。在多个基准的开放与闭环实验中达到与SOTA相当的驾驶性能。

5. 最优结构学习与条件独立性检验的统计复杂性联系

Optimal structure learning and conditional independence testing
建立一般性转化机制,证明结构学习的minimax最优率可由条件独立性检验的最优率直接推导(在Bernoulli、高斯、非参数模型下均成立)。基于PC算法提出适配方法,将结构学习还原为条件独立性检验,并通过多种理论模型验证。

6. CONTINUUM:面向动态AI工作负载的高效张量内存虚拟化

CONTINUUM: Restoring the Contiguous Tensor Abstraction Efficiently for Dynamic AI Workloads via Hardware Virtualization
针对现有软件分页方法破坏连续张量抽象的问题,提出张量内存虚拟化子系统。通过轻量化GPU驱动扩展绕过操作系统瓶颈,并设计“Elastic Tensor”机制支持灵活张量操作。实验在动态场景下显著提升吞吐量、降低内存映射时延。

7. 预训练VLA模型在持续学习中表现出惊人抗遗忘能力

Pretrained Vision-Language-Action Models are Surprisingly Resistant to Forgetting in Continual Learning
率先研究大规模预训练VLA模型在持续学习中的表现。使用经验回放(ER)技术,在多种任务下用极小规模缓冲测试。发现预训练机制显著降低遗忘风险,模型能快速恢复旧技能。证明大规模预训练模型本身具备优异的抗遗忘特性。

8. BRCD:基于贝叶斯发现的微服务故障高效根因分析

Root Cause Analysis of Failures in Microservices via Bayesian Root Cause Discovery
提出贝叶斯根因发现方法BRCD,利用预先学习的部分因果图结构结合均匀DAG采样进行贝叶斯推断,避免穷举难题,首次在非参数根因分析中提供统计一致性保证。在合成及三个真实微服务数据集上,在故障样本极少时仍精准定位根因,准确率达SOTA。

9. BehaviorVLA:突破分布转移的视觉-语言-动作模型

From Abstraction to Instantiation: Learning Behavioral Representation for Vision-Language-Action Model
针对VLA模型在环境分布转移下性能下降的问题,提出BehaviorVLA框架。包含基于因果Mamba的视觉运动行为编码器和阶段条件行为解码器,克服短时间片段限制。在RoboTwin 2.0、LIBERO、CALVIN等基准上领先,真实迁移任务中仅需50%数据即达现有方法性能。

以上为Session 5-1的9篇Spotlight论文摘要。

准备好启动您的定制项目了吗?

现在咨询,即可获得免费的业务梳理与技术架构建议方案。