预训练大语言模型在通用语料上学习了丰富的语言知识，但面对特定领域或任务时，需要通过微调来适配。微调的本质是在预训练权重的基础上，用少量标注数据进一步训练，使模型输出更符合目标分布。
全参数微调（Full Fine-tuning）会更新模型所有参数，效果通常最好，但需要大量显存和时间。对于GPT-3规模的模型，全参数微调几乎不可行，因此参数高效微调方法应运而生。
LoRA（Low-Rank Adaptation）是目前最流行的参数高效微调方法之一。它通过冻结原始权重，在模型层中插入低秩矩阵，只训练这些新增的参数。LoRA的秩决定了模型表达能力的上限，通常取8-64。训练中只需要更新少量参数，显存占用大幅降低。
数据准备是微调成功的关键。需要收集与目标任务相关的标注数据，并进行清洗、格式转换。对于对话任务，通常使用Alpaca格式的JSON数据，包含指令、输入和输出字段。数据量一般从几百到几千条不等，质量比数量更重要。
训练策略方面，学习率通常设为1e-4到5e-5，使用余弦退火调度。批次大小受限于显存，可结合梯度累积。训练轮数不宜过多，避免过拟合，一般2-5个epoch。使用wandb等工具监控loss曲线。
评估环节不能忽视。在验证集上计算指标（如ROUGE、BLEU），同时人工检查生成样本。微调后的模型可能会丧失部分通用能力，可通过混合通用数据缓解。
实际应用中，可以使用Hugging Face的Trainer API或PEFT库快速实现LoRA微调。训练完成后，将适配器权重合并到基础模型中，即可用于推理。