PEFT: Parameter-Efficient Fine-Tuning
参数高效微调(Parameter-Efficient Fine-Tuning, PEFT)讨论的是一个很现实的问题:当基础模型已经足够大、训练足够贵时,如何只引入很小的任务特定状态,就让同一个模型适配不同任务、领域、用户偏好或输出协议。 ...
参数高效微调(Parameter-Efficient Fine-Tuning, PEFT)讨论的是一个很现实的问题:当基础模型已经足够大、训练足够贵时,如何只引入很小的任务特定状态,就让同一个模型适配不同任务、领域、用户偏好或输出协议。 ...