36、欧洲议会关于人工智能及相关技术监管提案解析

欧洲议会关于人工智能及相关技术监管提案解析

1. 权利救济

任何自然人或法人都有权就高风险人工智能、机器人及相关技术（包括此类技术使用或产生的软件、算法和数据）在开发、部署和使用过程中，违反欧盟法律以及拟议法规规定的义务所造成的伤害或损害寻求救济。

2. 风险评估

• 高风险定义 ：“高风险”指人工智能、机器人及相关技术在开发、部署和使用过程中，考虑其特定用途、开发或使用的行业以及可能造成的伤害或损害的严重程度，对个人或社会造成违反欧盟法律规定的基本权利和安全规则的重大风险。
• 评估主体 ：由各成员国指定的国家监管机构进行评估，评估时需考虑技术开发者或部署者的意见和自我评估。
• 评估标准 ：
  • 特定用途或目的；
  • 开发、部署或使用的行业（行业和特定用途需综合考虑）；
  • 可能造成的伤害或损害的严重程度；
  • 开发、部署或使用是否会造成重大伤害风险；
  • 需参考拟议法规附件中列出的高风险行业和高风险用途及目的的详尽且累积的清单，该清单由委员会定期更新。

以下是高风险行业和高风险用途的部分示例：
|高风险行业|高风险用途或目的|
| ---- | ---- |
|就业|招聘|
|教育|学生成绩评定和评估|
|医疗保健|医疗治疗和程序|
|交通|自动驾驶、交通管理|