8、决策中的偏差、公平性与脆弱性

决策中的偏差、公平性与脆弱性

在决策过程中，偏差、公平性和脆弱性是需要重点关注的问题。决策的风险来源广泛，包括模型开发所用的数据、模型假设、模型本身，以及独立于模型做出但影响模型结果的业务规则或其他决策。手动评估流程和程序往往会使风险决策更加复杂，因为其结果本质上是定性的。例如，不同的手动评估人员、分析师和经理做出的判断性决策，即便大多数组织都有政策和程序来防止不负责任的行为并追究决策者的责任，但这并不意味着所有决策都完全没有偏差。

评估人工智能系统中的偏差

近年来，负责任的人工智能的讨论已从机器学习决策使用中的伦理哲学，发展为关于确保自动化系统遵循与人类决策相同行为准则和道德标准的量化方法的社会技术讨论。

需要注意的是，像人工智能和机器学习这样的监督学习，预测模型在设计上具有区分性，其目标是根据标记变量的值进行区分。然而，当算法基于不能代表总体的数据或存在法律和道德限制的输入进行区分时，可能会违反消费者保护和数据隐私法。在贷款和保险决策中，服务提供商通常希望利用所有合理可用的信息使模型结果尽可能准确，但这可能与消费者期望获得最有利模型结果的需求相冲突。因此，需要在商业目标与公平、负责任的模型结果之间取得谨慎的平衡。解决偏差问题并确保决策公平，可以帮助保护弱势消费者在其一生中免受剥削。为了应对偏差，应在客户生命周期的各个阶段嵌入公平性评估。

以下是评估偏差、公平性和脆弱性在客户生命周期中的流程：

graph LR
    classDef process fill:#E5F6FF,stroke:#73A6FF,stroke-width:2px;
    A(数据采购与管理)::