搜索
Yann LeCun 发新论文：小模型跨模态表征对齐表现超 720 亿大模型
2 小时前
图灵奖得主Yann LeCun与布朗大学助理教授Randall Balestriero联合发表新论文，在柏拉图表征假说基础上建立数学框架，证明符合特定正样本关系训练的不同模态JEPA模型可学到通过旋转变换相互对齐的世界表征。实验显示，仅1.09亿参数的文本JEPA在跨模态表征对齐测试中超过Qwen2.5-72B、Llama-3-70B等大模型，且仅用2160万训练样本即达到下一Token预测模型9亿样本的表征对齐水平，大幅提升训练效率；还可通过线性变换连接独立训练的视觉编码器与文本模型，实现相关跨模态应用。该研究延续LeCun长期坚持的JEPA世界模型路线，挑战AI行业唯规模论，指出训练中让模型学习的信息关系比单纯增加数据量更重要。论文发布后引发业内不同讨论，外界对该技术路线的落地价值与多模态拓展可能性抱有不同期待。
