搜索
让 JEPA 真正理解世界背后的生成机制，DSReg 让世界模型的每一维都有了真实含义
2 天前
针对传统JEPA隐表征无法对应真实观测生成隐变量的问题，多机构研究者提出了Dependency-Sparsity Regularization（DSReg）方法。该方法无需重建观测、解码器与标签，可直接加载现有预训练LeJEPA模型，通过对白化后的JEPA表征进行最优正交旋转，拆分混合隐变量。在宽松的Structural Diversity假设下，DSReg可理论保证恢复出与真实世界变量一一对应的隐表征维度，且不影响原有预测能力。该方法仅需单张48GB显卡即可支持最高8192维的表征处理，在多组测试数据集上效果远超传统旋转方法，达到监督学习效果上限。在视觉编辑、稀疏控制等下游任务上，DSReg表现优于原生LeJEPA，有助于世界模型对齐真实世界变量，为构建可理解环境生成机制和可靠泛化的下一代智能体提供了可行路径。
