混合精度

清华大学NLP实验室提出Delta-CoMe模型增量压缩技术，80G的A100 GPU可加载50个7B模型，节省显存约8倍。该方法结合低秩分解和低比特量化技术，显著提升复杂任务性能并兼顾效率，优于传统微调方法。