Ethical AI prompt recommendations in large language models using collaborative filtering

该文章提出将协同过滤技术应用于大型语言模型（LLMs）的伦理提示推荐，以解决传统伦理监管方法的局限性，同时创建了相关合成数据集并验证了方法有效性。

一、文章主要内容总结

1. 研究背景与问题
   • LLMs在加速AI解决方案开发的同时，存在偏见、公平性及问责制等伦理风险，尤其在医疗、金融等高危领域影响显著。
   • 传统伦理监管方法（如基于规则的过滤、人工审核）存在可扩展性差、适应性弱的问题，无法应对不断变化的伦理标准与新兴风险。
2. 核心方法
   • 设计双智能体系统：以LLM（如ChatGPT）为第一智能体，协同过滤算法为第二智能体。LLM将用户提交的提示传递给协同过滤算法，算法通过计算提示间相似度，推荐高相关度的后续提示。
   • 采用皮尔逊相关系数计算提示相似度，基于用户对提示的评分（1-5分）挖掘偏好模式，确保推荐符合伦理准则。
3. 数据集构建
   • 参考MovieLens数据集格式，使用ChatGPT 4o生成含3612条记录的合成数据集，每条记录包含“提示-提示-评分”三要素，可在Kaggle获取。
4. 实验与结果
   • 基于Linux系统、Python 3.14及Surprise库1.1.4版本，采用10折交叉验证，使用MAE、RMSE、精确率、召回率、F1值作为评估指标。
   <