DPO讲解

本文主要是介绍DPO讲解，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

PPO算法的pipeline冗长，涉及模型多，资源消耗大，且训练极其不稳定。DPO是斯坦福团队基于PPO推导出的优化算法，去掉了RW训练和RL环节，只需要加载一个推理模型和一个训练模型，直接在偏好数据上进行训练即可：

损失函数如下：
$${\mathcal{L}}_{\mathrm{DPO}}\left({\pi }_{\theta };{\pi }_{\mathrm{ref}}\right)=-{\mathbb{E}}_{\left(x,y_w,y_l\right)\sim \mathcal{D}}\left[\log \sigma \left(\beta \log \frac{{\pi }_{\theta }\left(y_w\mid x\right)}{{\pi }_{\mathrm{ref}}\left(y_w\mid x\right)}-\beta \log \frac{{\pi }_{\theta }\left(y_l\mid x\right)}{{\pi }_{\mathrm{ref}}\left(y_l\mid x\right)}\right)\right]$$

DPO在理解难度、实现难度和资源占用都非常友好，想看具体的公式推导见：

[论文笔记]DPO：Direct Preference Optimization: Your Language Model is Secretly a Reward Model

---

参考

• Direct Preference Optimization:
  Your Language Model is Secretly a Reward Model
• DPO: Direct Preference Optimization 论文解读及代码实践

这篇关于DPO讲解的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！

---