10、以人为本的人工智能与隐私保护：过去、现在与未来

以人为本的人工智能与隐私保护：过去、现在与未来

1. 欧盟人工智能立法的影响与趋势

欧盟的《人工智能法案》及其他数字经济相关的主要立法举措，很可能成为其他司法管辖区的典范或基准。这些立法指向一个长期、迭代的过程，即逐步将现有法律、现有法律的扩展以及一些新法律应用于人工智能领域。

在这个过程中，行业参与（以共同监管的形式）不仅有用，而且对于确保法律的有效性至关重要。因为在人工智能方面，公共当局存在严重的信息不平衡问题。

1.1 《人工智能法案》的相关规定

• 禁止的人工智能应用 ：包括潜意识技术、剥削弱势群体、社会评分系统，以及用于执法目的的面部识别或其他远程生物识别技术（有限情况除外）。
• 高风险用例 ：相关列表更为详尽，涉及人工智能系统与人类交互或生成可能被误解的内容（如深度伪造）等情况。
• 与伦理的关联 ：法案通过定义适用于高风险人工智能系统的广泛原则，将人工智能与伦理讨论联系起来。同时，对高风险人工智能系统的提供者、进口商、经销商甚至用户都规定了相应的义务，以确保其符合相关原则。

1.2 加拿大相关法案

加拿大的《人工智能与数据法案》（AIDA）与欧盟拟议的《人工智能法案》保持一致。它是2022年6月16日提交的法案的一部分，该法案还包括《消费者隐私保护法》《个人信息和数据保护法庭法》等。此前，加拿大财政部委员会在2019年通过了《自动决策指令》，引入了算法影响评估，用于加拿大联邦政府采购用于决策的人工智能系统。

2. 隐私