12、算法决策中的偏差应对与风险评估

算法决策中的偏差应对与风险评估

在当今数字化时代，算法在各个领域的决策中扮演着越来越重要的角色。然而，算法偏差的存在却给决策带来了诸多挑战。本文将探讨如何从用户视角应对算法偏差，以及如何评估算法偏差带来的风险。

1. 决策问题的定义与替代方案

算法的本质是对不同人进行差异化处理的手段。但在使用算法时，我们需要考虑其可能带来的偏差。有时候，不使用算法可能是更好的选择，因为算法偏差可能会引入其他方法可以避免的问题，或者其带来的好处在情感层面上被其偏差所抵消。

以下是一些不使用算法或替代算法的决策方式：
- 同等对待所有人 ：例如，在网站推荐书籍时，给每个访客推荐同一本书，而不是为每个访客预测最有用的推荐。
- 随机选择 ：比如通过抽签决定招聘哪个候选人。在某些情况下，如果算法存在高度偏差，这种随机选择可能并不像听起来那么不切实际。例如，一些信用评分系统的表现甚至不如随机数，因为开发算法所使用的数据或输入存在严重偏差。

除了上述两种基本方式，还有两种常见的替代复杂算法的决策方式：
- 人类判断 ：人类判断是算法的前身。虽然经验表明人类判断往往存在更多偏差，但人类具有逻辑评估新情况的能力。例如，当第一个火星访客到达墨西哥海关时，没有算法可以决定他的飞碟是否应缴纳关税，但人类可以提出合理的论据。此外，很多时候人类似乎更愿意接受人类做出的决策，这一观点甚至被纳入了欧洲通用数据保护条例（GDPR），该条例禁止对个人有“重大”或“法律”影响的“仅”自动化决策，除非得到明确授权。
- 简单标准