数倍训练速度提升

LoRA 是一种高效微调大模型的技术方案，通过只在关键层插入极少量可训练参数来优化模型效果。它相比传统微调方式节省显存高达99%、提升训练速度数倍，并且模型体积小、易部署。