15、AI系统中的隐私、公平性与可观测性

AI系统中的隐私、公平性与可观测性

1. 隐私与公平性

1.1 基础模型中的公平性与偏差问题

基础模型（FMs）在公平性和偏差方面存在复杂且多面的问题。尽管这些模型是在大量数据上进行训练的，但它们常常反映出所学习数据中固有的偏差。当数据主要集中于流行语言或文化时，可能会导致某些群体或观点被遗漏或代表性不足，进而造成模型输出可能无意识地延续现有的社会偏差或忽略重要的细微差别。

此外，基础模型在生成响应时能够采用不同的角色或观点，这进一步增加了公平性和偏差评估的复杂性。由于模型可以在不同视角之间切换，很难确定偏差源自模型内单一且一致的来源。偏差可能会根据上下文或特定提示以各种方式表现出来，这使得难以清晰地了解模型的整体公平性。

为了应对基础模型中的偏差问题，可采取持续监测偏差漂移的方法。在模型部署后，定期监测其在公平性指标上的表现，这样当模型遇到新数据时，能够及早发现偏差漂移。

1.2 隐私与公平性的对比

隐私和公平性虽然都反映了人类价值观，但在定义和治理的具体程度上有所不同。

隐私方面，通过首席隐私官（CPO）或数据保护官（DPO）在行政层面得到越来越多的体现。隐私具有基于“LOCKED”权利的明确定义，这使得更容易推导出架构机制和测试方法。

公平性方面，如果存在治理机制，通常由公平性团队来体现。公平性的定义不够精确，通常使用统计测试或对输入进行系统变化的方法来确定系统是否公平。

两者都适用于处理人类数据的系统，并且都需要设置护栏以检测违规行为，同时进行持续的日志记录和监测，以便进行离线分析。

1.3 相关讨论问题