32、人工智能与残障人士：算法偏见问题及应对策略

人工智能与残障人士：算法偏见问题及应对策略

1. 算法偏见问题概述

人工智能系统在解决特定实际问题时，能为残障人士带来益处。然而，它也可能加剧对残障人士的歧视。软件（包括人工智能应用）会强化社会中已有的偏见，并引入新的偏见来源。近年来，基于机器学习的人工智能系统不断发展，其应用范围日益广泛，这极大地增加了引入偏见的可能性，扩大了潜在危害的范围。随着各领域决策自动化程度的提高，有偏见的算法可能导致社会不公，包括对残障人士的歧视。

残障与其他受算法偏见影响的社会类别（如性别、民族或种族）不同，其多样性体现在多个方面。残障可能影响人类的感官、身体、心理和认知等广泛功能领域。一个人可能在不同生命阶段出现一种或多种不同程度的损伤，这些损伤与社会环境相互作用，形成残障，给个人带来实际困难。社会的排斥和歧视会限制残障人士的福祉和生活机会。而且，残障人士在损伤、社会环境、资源和经验等方面的巨大差异，导致他们在人工智能系统中遭受偏见的方式也各不相同。

2. 算法偏见的潜在表现

• 具体案例 ：学者和从业者指出，在许多人工智能应用中，算法偏见都有可能出现。例如，Treviranus展示的机器学习模型，在处理“坐在轮椅上向后移动”的图像时，竟会指示自动驾驶车辆在十字路口撞倒此人，且在使用轮椅使用者的数据进行训练后，做出这种错误决策的信心更强。
• 常见应用场景
  • 就业领域 ：人工智能在招聘的各个阶段都有应用，包括确定招聘广告的目标人群、筛选求职申请以及评估员工工作表现等。在这些过程中，由于残障相关情况与机器