来自 PhAI Labs、CUHK、Fudan、Stanford、Oxford 和 Princeton 的研究人员发布了 JEPA-Anything，一个用于构建世界模型的领域无关框架。它不是为每个领域设计新的预测模型，而是将一套共享的学习配方应用于截然不同的系统。它用一种名为正交预测分解（Orthogonal Predictive Factorization，OPF）的方法扩展了联合嵌入预测架构（JEPA）。研究团队在 7 个领域对其进行了测试：视觉、生物学、临床轨迹、控制、分子动力学、物理场和天气。
JEPA-Anything 解决了什么问题？
标准的 JEPA，例如 I-JEPA 或 V-JEPA 2，使用一个上下文编码器、一个 EMA 目标编码器和一个预测器。预测器输出一个单一的整体目标嵌入。研究团队将此称为容量分配问题：高方差结构占主导地位，而较弱的模式则得到相互冲突的梯度。
正交预测分解是如何工作的？
OPF 将宽度为 d 的潜在目标拆分为 K 个宽度为 r 的学习子空间，其中 d = K × r。大多数实验使用 K = 4。每个因子都有一个专用的预测器。然后通过投影矩阵的 Moore-Penrose 伪逆将因子预测重新组合。结果是 1 个完整的潜在状态，用于解码、规划或 rollout。
三个正则化项使这些因子保持有用：
正交性损失：使每个投影矩阵内的列保持标准正交，并让不同投影矩阵处于互不重叠的子空间中。
因子活跃度损失：对每个坐标的标准差施加铰链约束，使任何因子都不会失效。
编码器方差损失：向在线编码器发送直接的反坍缩信号。
OPF 损失被直接加到每个领域的原始训练损失上。领域适配器处理分词和编码器；核心库将共享核心暴露为 OrthogonalFactorProjection。
正交性对于稳定合成很重要。在 CITRIS Interventional Pong 上，一个容量匹配的无约束多头模型的条件数为 438.52。正交版本达到 1.00005，跨因子重叠接近于零。
研究报告了哪些结果？
Group I，终端读数：在单细胞数据上，零样本 PBMC 聚类（AvgBIO）升至 0.7752，而 Cell-JEPA 为 0.7194。Norman 扰动 Pearson 从 0.787 升至 0.814。在 UK Biobank 数据上对 1,000 个临床事件进行预测时，平均 PRAUC 为 0.718，而匹配的标准 JEPA 为 0.711。
Group II，潜在世界动力学：在 Interventional Pong 上，单干预 MSE 下降 34.83%。未见过的组合干预提升 12.90%，6 步自由 rollout 提升 8.58%。JEPA-Anything 在所有 10 个匹配的动力学任务上都提升了所报告的指标。基准测试包括 CausalWorld、DeepMind Control、PDEBench 和 WeatherBench2。在 APEBench Burgers 上，6 步 rollout 误差下降约 44.7%，且每个随机种子都有提升。对于使用 TrajCast 风格骨干网络的 100 步分子 rollout，它在水、石英、对乙酰氨基酚和苯上取得了最低的 MAE 和 RMSD。
规划结果好坏参半。在参数匹配误差 0.3% 以内时，JEPA-Anything 提升了 Walker2d 和 HalfCheetah 上的 CEM 回报。Hopper 则更青睐标准 JEPA。
Group III，科学分析：因子分析提名 IL-18 加 CD73 阻断作为癌症干预方案。湿实验在共培养、患者来源类器官、肿瘤片段和小鼠中支持了这一方案。潜在轨道模式还恢复了开普勒定律，拟合斜率为 −1.4991，而理论值为 −1.5。
JEPA-Anything 与其他世界模型相比如何？
FeatureJEPA-AnythingV-JEPA 2DINO-WMDreamerV3TD-MPC2Core ideaJEPA with K orthogonal predictive factorsVideo JEPA plus action-conditioned V-JEPA 2-ACWorld model on pretrained visual featuresWorld model plus actor-critic trained in imaginationDecoder-free latent dynamics plus MPCTarget structureFactorized, recombined via pseudoinverseSingle latent targetSingle latent targetCategorical latent statesSingle latent stateDomains shown7: vision, cells, clinical, control, molecules, PDEs, weatherVideo understanding, robot manipulationPointMaze, PushT, Wall, deformablesDiverse RL domains, fixed hyperparameters104 continuous-control tasks, 4 domainsPlanning / rolloutLatent rollout, CEM planningPlanning from image goalsCEM planningPolicy from imagined rolloutsMPC planningPublic checkpointsPer-domain research checkpoints on HFYes, 300M to 1B (V-JEPA 2)PointMaze, PushT, WallNot listed in repo300+ checkpoints, up to 317MLicenseApache-2.0MIT (some files Apache-2.0)MITMITMIT
来源：各项目的 GitHub README，链接位于表头行。JEPA-Anything 的检查点状态来自其 Hugging Face 卡片。核实于 2026 年 10 月 5 日。
关键要点
OPF 将 1 个 JEPA 目标拆分为 K 个正交因子，并为每个因子配备专用预测器。
它在全部 10 项动力学任务上均优于匹配的 JEPA 基线。
干预式 Pong 的单次干预误差下降了 34.83%。
规划方面的收益因环境而异；Hopper 更青睐标准 JEPA。
核心代码采用 Apache-2.0 许可；研究检查点托管在 Hugging Face 上。
查看 Paper、GitHub Repo 和 Model Checkpoints。所有功劳归于该项目的研究者。另外，欢迎在 Twitter 上关注我们，别忘了加入我们拥有 150k+ 成员的 ML SubReddit 并订阅我们的 Newsletter。等等！你在 Telegram 上吗？现在你也可以在 Telegram 上加入我们。
需要与我们合作推广你的 GitHub Repo 或 Hugging Face Page 或产品发布或网络研讨会等？联系我们
文章 Beyond Domain-Specific World Models: JEPA-Anything Uses 1 Recipe for 7 Fields 首次发表于 MarkTechPost。