2026-03-20
优化LoRA目标模块选择实现高效微调
本研究通过在Amazon Nova 2.0 Lite多模态推理大模型上进行全面消融实验,系统分析了LoRA微调中不同目标模块配置对性能和效率的影响。实验涵盖七个数据集的文本和视觉任务。研究发现o_proj模块作为单一目标...
本研究通过在Amazon Nova 2.0 Lite多模态推理大模型上进行全面消融实验,系统分析了LoRA微调中不同目标模块配置对性能和效率的影响。实验涵盖七个数据集的文本和视觉任务。研究发现o_proj模块作为单一目标...