JEPA-Anything框架:用正交预测分解统一跨领域世界模型,从癌细胞干预到行星轨道验证内部结构可解释性
PhAI Labs联合多所高校发布JEPA-Anything框架,通过正交预测分解(OPF)机制解决多尺度信号冲突问题,在视觉、生物、物理等七类系统中实现统一预测。该框架在九项动力学基准任务中优于标准JEPA,并在肝癌细胞干预方案发现和行星轨道规律提取中验证了其内部隐空间因子的科学价值与可解释性。尽管长距离预测存在误差累积且部分控制任务表现不及基线,但证明了共享底层预测原则的跨领域潜力。
事件概述
PhAI Labs联合牛津、斯坦福、普林斯顿及港中文等高校团队发布了JEPA-Anything技术报告。这是一个面向不同“世界”学习预测模型的跨领域框架,旨在回答AI能否共享一套更底层的“演化逻辑”方法来理解千差万别的复杂系统。该框架保留了各领域的观测形式和编码器,但共享统一的预测核心及潜在世界状态接口。
核心机制:正交预测分解(OPF)
标准JEPA(Joint-Embedding Predictive Architecture)通常将信息汇入同一目标嵌入进行预测,但在面对分子振动、气象扰动等多尺度变化时,强信号容易掩盖微弱但关键的信息,导致梯度冲突或冗余学习。
JEPA-Anything引入**正交预测分解(Orthogonal Predictive Factorization, OPF)**机制:
- 空间解耦:将目标状态切分为多个互补子空间,由不同预测分支独立处理。
- 正交约束:防止不同分支重复学习同一类信息,避免表示坍缩。
- 活性约束:确保所有因子参与学习,保留可供后续分析的内部接口。
这种设计让模型根据数据中的可预测结构自动决定因子职责,而非预先规定特定物理量。
实验验证与性能表现
1. 跨领域基准测试
在严格对齐的动力学基准(Matched Dynamics Benchmark)中,JEPA-Anything在十项任务中有九项优于标准JEPA:
- Burgers方程:均方误差(MSE)下降39.7%。
- 浅水方程:MSE下降39.3%。
- WeatherBench 2:MSE下降10.5%。
- 分子系统:在液态水、α-石英等四种体系中,无论是单步预测还是100步自由rollout后的最终位置RMSD,JEPA-Anything均取得最低误差。
2. 连续控制任务局限
在机器人控制任务中,JEPA-Anything并非全面超越:
- Walker2d和HalfCheetah平均得分高于标准JEPA。
- Hopper任务中,标准JEPA表现更好。
3. 长距离预测误差
随着预测步数增加,误差累积问题显现。例如在Burgers测试中,当预测长度从20步增至50步时,JEPA-Anything的优势明显缩小,表明长距离预测仍存在挑战。
科学发现价值:内部结构的可解释性
研究重点不仅在于预测精度,更在于模型内部学到的因子是否能转化为科学假设并接受外部检验。
案例一:肝癌细胞干预方案发现
- 过程:研究人员分析JEPA-Anything在肝癌数据中的正交因子坐标,筛选出候选干预组合:IL-18联合NT5E/CD73阻断。
- 验证:该方案经细胞系、患者来源类器官及免疫健全小鼠实验验证,显示出最强的肿瘤杀伤力和免疫激活效果。
- 意义:形成了“模型内部结构→领域分析→候选干预→实验验证”的闭环,证明隐空间因子可作为科学探索接口。
案例二:行星轨道规律提取
- 过程:仅输入模拟的行星位置和速度轨迹,未提供开普勒定律先验知识。
- 结果:对模型隐模式进行频谱分析后,提取出的“轨道频率-半长轴”关系拟合斜率为**-1.4991**(理论值-1.5),R²高达0.99999999。
- 意义:模型在无监督情况下捕捉到了真实的物理规律,且内部结构与已知科学定律高度吻合。
结论与展望
JEPA-Anything并未实现“理解万物”,也未在所有任务中全面超越基线,但它验证了共同预测原则具有跨领域适用性。其核心价值在于:
- 展示了AI可以通过共享底层预测方法处理机制迥异的复杂系统。
- 证明了模型内部学到的结构不仅服务于预测数字,还可被研究者分析、拆解,并接受实验和已知规律的检验。
这为PhAI Labs提出的“科学发现大模型”(Discovery Foundation Models)提供了世界模型层的技术支撑,推动AI从封闭预测向开放式科学探索迈进。
