UALIGN: Leveraging Uncertainty Estimations for Factuality Alignment on Large Language Models

UALIGN框架提升大语言模型事实表达能力

本文是LLM系列文章,针对《UALIGN: Leveraging Uncertainty Estimations for Factuality Alignment on Large Language Models》的翻译。

UALIGN:利用不确定性估计在大型语言模型上进行事实对齐

摘要

尽管表现出了令人印象深刻的能力,但大型语言模型(LLM)仍然经常难以准确表达它们所拥有的事实知识,特别是在LLM的知识边界模糊的情况下。为了改进LLM的事实表达,我们提出了UALIGN框架,该框架利用不确定性估计来表示知识边界,然后明确地将这些表示作为输入特征纳入提示,使LLM与事实知识保持一致。首先,我们通过计算两个不确定性估计(包括置信度得分和语义熵)来准备知识问答(QA)样本的数据集,以表示LLM的知识边界。随后,使用准备好的数据集,我们训练了一个包含不确定性估计的奖励模型,然后采用邻近策略优化(PPO)算法对LLM进行事实性对齐。实验结果表明,通过在LLM比对中集成不确定性表示,所提出的UALIGN可以显著提高LLM在域内和域外任务中自信地回答已知问题和拒绝未知问题的能力,在各种基于提示和训练的基线上显示出可靠性的提高和良好的泛化能力。

1 引言

2 方法

3 实验设置

4 结果与分析

5 相关工作

6 结论

在这篇论文中,我们提出了一个UALIGN框架,明确地利用不确定性估计来引出LLM,以准确地

评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

UnknownBody

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值