阿里清华合作论文获ICML杰出论文：挑战扩散模型任意顺序生成，提出极简方案刷新推理纪录
阿里巴巴与清华大学合作的论文《灵活性陷阱》入选ICML 2026杰出论文，质疑扩散大语言模型中任意顺序生成的优势。研究发现，在推理任务中任意顺序会导致模型绕过关键逻辑节点，降低能力；基于此提出的“JustGRPO”方案强制模型从左到右生成，在GSM8K上达到89.1%准确率，超越多种专用算法。
事件概述
ICML 2026于7月5日公布两篇杰出论文（Outstanding Paper），阿里巴巴与清华大学合作的论文《The Flexibility Trap: Rethinking the Value of Arbitrary Order in Diffusion Language Models》入选。该奖项是ICML最高荣誉，获奖率仅为接受论文的千分之一。
核心发现：任意顺序生成存在“灵活性陷阱”
扩散大语言模型（dLLM）本以“可任意选择生成顺序”为优势，理论上拥有更大解空间，但论文首次指出：在数学、编程等通用推理任务中，这种灵活性反而成为陷阱。
关键机制：“熵退化”。模型在推理时会优先处理容易的部分，绕过高不确定性的关键逻辑节点（如“因此”“所以”），待上下文固化后，这些节点变成被锁定的填空题，无法再做出真正的推理选择。
实证数据：在HumanEval代码生成任务上，从左往右顺序能解出而任意顺序解不出的题目占21.3%，反向仅0.6%。顺序自由度越大，推理性能越差。
解决方案：JustGRPO
基于上述发现，团队提出“JustGRPO”——在强化学习训练阶段放弃任意顺序，强制模型从左到右生成，仅使用常规的GRPO算法即可。此前，为dLLM设计强化学习算法需解决顺序不确定导致的归因难题，而该方案实现“大道至简”。
效果与意义
训练后模型推理速度不受影响，推理效果显著提升。在GSM8K（约8500道多步推理小学数学应用题）上达到89.1%准确率，全面超越d1、ESPO、SPG、GDPO等专为扩散模型设计的复杂强化学习算法。