异构对比微调

中国人民大学等机构的研究者提出MoCa框架，通过双阶段方法将预训练因果VLM转化为双向多模态编码模型。该框架利用持续预训练和异构对比微调提升表示能力和泛化性能，在多种任务上优于现有模型。