2025_NIPS_FairLISA: Fair User Modeling with Limited Sensitive Attributes Information

文章总结与翻译

一、主要内容

本文聚焦于敏感属性信息有限场景下的用户建模公平性问题。传统用户建模技术可能从行为数据中无意识捕捉与性别、种族等敏感属性相关的偏差，导致歧视，而现有公平性优化方法大多依赖完整的敏感属性标签，这在现实中因隐私顾虑等难以实现。

为此，作者提出了FairLISA框架，核心是高效利用已知和未知敏感属性的数据进行公平模型训练：

1. 构建了新的理论视角，通过香农熵（Shannon entropy）建立未知敏感属性数据与公平目标的关联，通过交叉熵建立已知敏感属性数据与公平目标的关联，无需预测缺失的敏感属性标签，减少信息损失；
2. 设计了包含过滤器（Filter）和鉴别器（Discriminator）的对抗学习架构，过滤器负责过滤用户表征中的敏感属性信息，鉴别器通过预测敏感属性引导过滤器训练，实现对抗优化；
3. 在推荐系统和认知诊断两大典型用户建模任务、六个代表性模型及两个真实数据集（PISA2015、MovieLens-1M）上进行实验，验证了框架在不同敏感属性缺失比例下，能在提升公平性的同时保持较高准确性。

二、创新点

1. 理论创新：提出新的理论视角，统一了已知和未知敏感属性数据与公平性目标（最小化用户建模结果与敏感属性的互信息）的关联，为未知敏感属性数据的直接利用提供了理论保障；
2. 框架通用性：设计的FairLISA框架可泛化至大多数现有公平对抗方法，将其扩展到敏感属性有限的场景，无需对原有方法进行大幅修改