Meta 发布 LeVJEPA 视频模型预训练新方法 SIGReg,FLOP 效率提升 20 倍

ME AI 消息,Meta 研究员 Yann LeCun 转发宣布了用于视频基础模型预训练的新方法 SIGReg,对应模型为 LeVJEPA。该方法采用简单的损失函数(sigreg + prediction),无需 tubelet、帧聚合、EMA、stop-gradient 等复杂技术,相比 VJEPA1/2 预训练方法实现了 20 倍 FLOP 效率提升。项目宣称开源且可复现。(来源:InFoQ)