大模型幻觉

大型语言模型（LLM）的“幻觉”是指模型生成看似合理但与事实不符、逻辑矛盾或毫无根据的内容。解决这一问题的方法通常可分为数据改进、模型优化、提示工程和系统集成四个层面。

1. 数据改进

• 提高数据质量：在模型训练阶段，确保数据集准确无误、不带有偏见，并过滤掉不准确或有误导性的信息。
• 丰富数据来源：扩大训练数据的多样性和覆盖面，尤其是针对特定领域或罕见疾病等知识稀疏的领域，避免模型因知识不足而“胡编乱造”。
• 领域适应和微调：通过在特定领域的优质数据集上对模型进行微调，使其更适应特定场景，减少在特定任务上产生幻觉的概率。

2. 模型优化

• 调整模型参数：在模型生成阶段，调整温度（temperature）、top-p 和频率/惩罚度等参数。
  • 温度：降低温度值（例如设为0.2）可以使模型输出更具确定性和可预测性，减少随机性带来的幻觉。
  • 频率惩罚：增加该值可减少模型重复使用相同词语的倾向。
  • 存在惩罚：增加该值可鼓励模型使用新词，提高文本多样性。
• 改进解码策略