35、欧洲议会2020年决议：人工智能及相关技术的规范提案解读

欧洲议会2020年决议：人工智能及相关技术的规范提案解读

1. 无偏见与非歧视原则

在欧盟开发、部署或使用的高风险人工智能、机器人及相关技术所使用或产生的任何软件、算法或数据，都必须确保无偏见且不进行歧视。具体而言，不得基于种族、性别、性取向、怀孕、残疾、身体或基因特征、年龄、少数民族、族裔或社会出身、语言、宗教或信仰、政治观点或公民参与、公民身份、民事或经济地位、教育程度或犯罪记录等因素进行歧视。

从技术层面来看，软件、算法和数据中的偏见和歧视是非法的，需要通过规范其设计和部署过程来解决。偏见可能源于自动化系统做出的决策，也可能来自决策所基于的数据集或系统训练所使用的数据集。例如，当软件、算法和数据基于对个人特征的偏见性个人或社会认知以及后续的数据处理，对任何人或人群显示出不理想的结果时，就应被视为有偏见；当它们产生的结果对个人或人群造成不成比例的负面影响，导致不同的待遇，且没有客观或合理的理由时，就应被视为具有歧视性。

为避免这些问题，相关方面呼吁采取措施，如在研发中对数据集进行去偏处理，并制定数据处理规则。同时，强调公平、准确、保密和透明等伦理价值应作为这些技术的基础，确保其操作不会产生有偏见的输出。此外，不同待遇只有在存在“客观、合理和合法的目标，且该目标既成比例又必要，同时不存在对平等对待原则干扰更小的替代方案”时才可以被正当化。

以下是该原则的关键要点总结表格：
|要点|详情|
| ---- | ---- |
|禁止歧视因素|种族、性别、性取向等多种因素|
|偏见来源|自动化系统决策、数据集|
|歧视判定|产生不成比例负面影响且无合理理由|
|解决措施|数据集去偏、制定数据处理规则|