非活跃头

本文提出了一系列剪枝策略，将LLaVA模型的计算量压缩至12%，同时保持了与原始模型同等的性能，并在其他多模态大模型上验证其普适性。