文章主要内容与创新点总结
一、主要内容
本文聚焦大型语言模型(LLMs)在情绪识别任务中的性别偏见问题,核心围绕“模型是否会因描述中人物性别不同而产生不同情绪预测”展开研究,并探索有效的去偏策略。
- 研究背景:LLMs日益融入日常生活,其公平性至关重要。情绪识别本身具有主观性,人类的情绪感知会受性别刻板印象影响(如将婴儿相同情绪反应,标注为男孩时描述为“愤怒”,女孩时为“恐惧”),而LLMs基于人类生成文本训练,可能内化此类偏见。
- 研究设计:
- 数据集:采用NarraCap文本描述(基于EMOTIC数据集图像生成),通过“性别替换”(如男/女互换)和“性别中立化”(用“成年人”替代具体性别)构建增强数据集,保留原始情绪标注作为基准。
- 评估模型:涵盖GPT-4o-mini、GPT-5-mini、Mistral、LLaMA、TinyLLaMA、DeepSeek等多款主流LLMs。
- 偏见定义与测量:以“男女情绪预测50:50分布”为无偏基准,通过卡方检验(χ²)衡量性别与情绪预测的关联性(χ²值越大、p值越小,偏见越显著)。
- 去偏策略测试:
- 推理时策略:包括提示工程(如添加“忽略性别偏见”指令)、上下文学习(提供性别不同但情绪一致的示例)、思维链(CoT)推理。
- 训练时策略:基于增强数据集的微调(FT1:仅用情绪标签微调;FT2:先微调性别判断公平性,再
订阅专栏 解锁全文
1314



被折叠的 条评论
为什么被折叠?



