在设计 Prompt 的时候,模型会学习在 Prompt 里面包含的示例数据,这些样本数据可以让模型更好的理解任务,最终生成我们想要的结果,这就是 Few-shot learning,小样本学习。要注意的是这种学习是暂时的,下次如果你想让模型处理同样的任务,仍然需要提供这些示例数据,如果你想更新模型的权重,让它学会处理这种特定类型的任务,提高模型的性能,我们可以通过微调模型的方式来实现,这就是 Fine-tuning。
我们可以准备一些人工审查过的高质量的示例数据,然后用这些数据去训练模型,让它更适应某种特定类型的任务。微调之后的模型是专属模型,也就是它只属于你自己,这个模型的底子仍然是基础模型,只不过通过微调以后,会在原有模型的基础之上,让它学会某种特殊技能,你可以使用这个微调之后的有特殊技能的模型去处理任务。
要注意的是,微调模型并不是让模型记住你给它提供的数据,而是让它根据这些训练数据,找到新的规律,使用某种语气,风格,或者特定的方式生成文本内容。