<?xml version="1.0" encoding="utf-8" ?><rss version="2.0"><channel><title><![CDATA[chacha_的博客]]></title><description><![CDATA[]]></description><link>https://blog.youkuaiyun.com/chacha_</link><language>zh-cn</language><generator>https://blog.youkuaiyun.com/</generator><copyright><![CDATA[Copyright &copy; chacha_]]></copyright><item><title><![CDATA[直接偏好优化算法（Direct Preference Optimization，DPO）]]></title><link>https://blog.youkuaiyun.com/chacha_/article/details/134527000</link><guid>https://blog.youkuaiyun.com/chacha_/article/details/134527000</guid><author>chacha_</author><pubDate>Tue, 21 Nov 2023 11:03:06 +0800</pubDate><description><![CDATA[基于**人类反馈的强化学习（RLHF）**是一个复杂且不稳定的过程，首先拟合一个反映人类偏好的奖励模型，然后使用强化学习对大语言模型进行微调，以最大限度地提高估计奖励，同时又不能偏离原始模型太远。这涉及训练多个 LM，并在训练循环中从 LM 采样，从而产生大量的计算成本。本文作者提出了**直接偏好优化（DPO）**算法，它稳定、高效且计算量轻，。实验表明，DPO 可以微调 LMs，使其与人类偏好保持一致，与现有方法一样或更好。]]></description><category></category></item><item><title><![CDATA[用于图网络的传统机器学习方法（CS224W课程笔记)]]></title><link>https://blog.youkuaiyun.com/chacha_/article/details/123447884</link><guid>https://blog.youkuaiyun.com/chacha_/article/details/123447884</guid><author>chacha_</author><pubDate>Sun, 13 Mar 2022 14:43:39 +0800</pubDate><description><![CDATA[图的传统手工特征]]></description><category></category></item></channel></rss>