Fine-Grained Detoxification via Instance-Level Prefixes for Large Language Models

最新推荐文章于 2025-11-24 18:29:32 发布

UnknownBody

最新推荐文章于 2025-11-24 18:29:32 发布

阅读量124

点赞数

CC 4.0 BY-SA版权

分类专栏： LLM Daily 文章标签：语言模型人工智能自然语言处理

本文链接：https://blog.youkuaiyun.com/c_cpp_csharp/article/details/138388094

LLM Daily 专栏收录该内容

1689 篇文章 ¥99.90 ¥299.90

订阅专栏

超级会员免费看

本文介绍了一种通过实例级前缀（FGDILP）对大型语言模型进行细粒度解毒的方法，旨在减少有毒内容的生成，而无需额外的数据或模型。FGDILP通过比较正负前缀，创建亚毒性载体，以协同纠正生成过程中的毒性。实验表明，这种方法在保持文本流畅性和多样性的同时，有效提升了排毒效果。

本文是LLM系列文章，针对《Fine-Grained Detoxification via Instance-Level Prefixes for Large Language Models》的翻译。

摘要

通过对大型语言模型（LLM）的训练，在自然语言处理（NLP）任务中取得了令人印象深刻的结果。然而，这些模型偶尔会对某些提示产生侮辱、威胁和脏话等有毒内容，从而限制了它们的实用性。为了解决这个问题，已经使用了各种基于微调和基于解码的方法来减轻毒性。然而，这些方法通常需要额外的成本，例如高质量的训练数据或辅助模型。在本文中，我们提出了通过实例级前缀（FGDILP）进行细粒度解毒，以在不增加额外成本的情况下减轻有毒文本。具体而言，FGDILP将注意力空间中使用正前缀前置提示的上下文化表示与实例级别的多个负前缀前置提示进行对比。这允许构建细粒度的亚毒性载体，当提供原始提示时，通过融合它们来纠正正常的生成过程，从而实现协同解毒。我们验证了FGDILP能够在话语和上下文水平上控制文本生成的毒性。我们的方法在排毒方面超过了基于提示的基线，尽管对生成的流畅性和多样性略有损失。