30、AI 责任相关法律问题解析

AI 责任相关法律问题解析

1. AI 责任归属现状与问题

在对 AI 系统进行尽职调查时，涉及诸多方面，如为合适的任务和技能选择恰当的 AI 系统、使 AI 系统正常运行、监控其活动，并通过定期安装可用更新来维持运行可靠性。在此情况下，虽然国家和法律会对 AI 系统进行管控，但使用 AI 系统所带来的风险却由操作者承担，这显然有失公平。

而且，构建一种明确忽视 AI 系统驱动的自主活动、设备或过程可能造成损害这一事实的责任体系，或许只是一种短期策略。原因主要有以下几点：
- 损害发生频率增加 ：由 AI 自主活动导致损害的情况会在短期内愈发频繁。
- 责任认定复杂 ：确定所有责任实体的成本和复杂性会不断增加，解决所谓的责任链问题也会变得越来越复杂和昂贵。
- 公众公平感缺失 ：当操作者在损害过程中的作用微乎其微时，若排除其免责的可能性，公众可能会认为这有失公正。

因此，至少在某些情况下，损害责任应直接归咎于 AI 系统，此时 AI 系统应被视为法律主体。当然，在大多数情况下，这种责任应基于严格责任。

2. 相关解决方案与措施

2020 年的一项决议提出了一些解决方案，包括实施针对高风险 AI 系统造成损害的民事责任强制保险，以及设立特别补偿基金，以覆盖特殊情况，例如由尚未被归类为高风险、因而未投保的 AI 系统造成的损害。这些措施或许能缓解那些反对赋予 AI 法律主体地位者的担忧，即让 AI 承担责任可能会使受害者无法获得赔偿。不过，需要注意的是，欧洲的一些后续法案，如 2022 年的 ALD 提案，打算在将非合同民事责任规则应用于 AI 的过程的第二阶段再引入这些措施。

3. 民事法律基本概念

为了深入探讨这些问题，我们需要回顾一些基本的民事法律概念。在民法领域，义务可分为合同义务和非合同义务（额外合同义务）。合同责任源于合同条款和适用的管辖权条款，而非合同责任则源自法律为保护某些具有法律价值的权利而设定的规则。

3.1 损害概念

在责任领域，损害是一个核心概念。需要明确的是，并非所有形式的伤害、损失或损害都会引发责任，只有具有法律相关性的损害才会如此。
- 合同责任中的损害定义 ：DCFR 规定，债权人有权就债务人未履行义务所造成的损失获得赔偿，除非该不履行行为可被免责。可获赔偿的损失包括未来可能合理发生的损失，“损失”涵盖经济损失和非经济损失。经济损失包括收入或利润损失、承担的负担以及财产价值的减少；非经济损失包括痛苦和折磨以及生活质量的下降。
- 非合同责任中的损害定义 ：DCFR 指出，损失（无论是经济的还是非经济的）或伤害若符合以下条件，则属于具有法律相关性的损害：
- 本章的某些规则有相关规定；
- 损失或伤害源于对法律赋予的权利的侵犯；
- 损失或伤害源于对值得法律保护的利益的侵犯。

此外，DCFR 还列举了各种具有法律相关性的损害的具体实例，如自然人身体或健康的人身伤害及相应损失、第三人因他人人身伤害或死亡而遭受的损失等。PETL 在侵权责任方面对损害的定义为：损害是指对受法律保护的利益造成的物质或非物质伤害。其对受保护利益的范围规定如下：
|受保护利益类型|保护程度|
| ---- | ---- |
|生命、身体或精神完整性、人类尊严和自由|最广泛的保护|
|财产权（包括无形财产权）|广泛的保护|
|纯粹经济利益或合同关系|保护范围可能更有限|

3.2 因果关系

因果关系是民事责任的另一个关键要素，即责任实体的行为与损害之间的联系，或其他问责方式（如概率或相关性）。
- DCFR 的一般规则 ：一个人若其行为或其负责的危险源头导致了具有法律相关性的损害，则应被视为造成了该损害。在人身伤害或死亡的情况下，受伤者对所受伤害的类型或程度的易感性应被忽略。
- PETL 的基本规则 ：一项活动或行为是受害者损害的原因，前提是若没有该活动，损害就不会发生。

同时，DCFR 和 PETL 还规定了关于替代原因等具体规则。

3.3 举证责任

损害和因果关系问题与举证责任机制密切相关。一般来说，举证责任由主张因某一事实产生法律后果的实体承担，但也存在一些例外情况。这些例外通常是由于当事人之间的不平等关系，或立法者为保护某些具有法律价值的利益而设定的。例如，PETL 规定，根据活动所带来的危险程度，举证责任可能会倒置。

3.4 责任制度

民法中至少存在三种责任制度：基于过错的责任、基于严格责任（针对物、危险活动和动物）以及对他人的责任（替代责任）。在西方国家，基于过错的责任应用最为广泛，但严格责任正逐渐占据主导地位。尽管在大多数法律体系中，过错责任仍是一项原则，严格责任为例外，但越来越多的案件正通过立法被纳入严格责任范畴。大多数关于新兴技术法律监管的提案都认可严格责任最适用于 AI 造成的损害。不过，过错责任制度在某些特定领域和情况下仍起着关键作用，在审视新兴技术和 AI 发展对民法带来的变革时，不能忽视这一点。欧洲委员会在制定 AI 责任规则时，提出了两项单独的法案：2022 年的 DLDP 提案涵盖严格责任制度，2022 年的 ALD 提案涵盖过错责任制度。并且，委员会在 ALD 提案中表示，将在立法过程的第二阶段，在重新评估是否需要比该提案中引入的措施更严格或更广泛的措施后，考虑进一步的司法发展情况。

4. 过错责任相关要素

对于基于过错的责任，除了具有法律相关性的损害和损害的因果关系这两个明显条件外，还需要考虑对所需行为标准（或注意标准）的违反，以及损害实施者对该行为的态度。
- 行为标准 ：行为标准（或注意标准、尽职调查）是民法中过错概念的一个客观要素。它并非基于任何具体个人的行为模式，而是基于在特定情境下一个假设的理性人的行为。行为标准可能取决于多种因素，如承担该标准的人的活动性质（商业活动与非商业活动）、活动类型（危险活动与非危险活动）、当事人之间的关系（平等关系与从属或照顾关系）以及承担该标准的人的能力和资格（特定年龄以上与以下、专业人员与非专业人员）等。
- 实施者态度 ：损害实施者对损害行为的态度是过错概念中较不客观的要素，因为要确定这一点，需要考察该行为是故意还是疏忽造成的。

然而，将现有的过错概念应用于非人类或集体实体时存在困难。特别是在将这一概念应用于 AI 责任时，会出现两个主要问题：一是应要求 AI 达到何种行为标准（注意标准），以及如何将其与对人类施加的标准相协调；二是在 AI 缺乏意识且没有心理或精神体验的情况下，如何确定其对自身行为的态度。

graph LR
    A[AI 责任相关问题] --> B[责任归属现状与问题]
    A --> C[相关解决方案与措施]
    A --> D[民事法律基本概念]
    D --> E[损害概念]
    D --> F[因果关系]
    D --> G[举证责任]
    D --> H[责任制度]
    D --> I[过错责任相关要素]
    E --> E1[合同责任中的损害定义]
    E --> E2[非合同责任中的损害定义]
    F --> F1[DCFR 的一般规则]
    F --> F2[PETL 的基本规则]
    I --> I1[行为标准]
    I --> I2[实施者态度]

5. AI 造成的具有法律相关性的损害

2020 年决议的第 19 点指出，AI 的民事责任应保护对生命、健康、身体完整性和财产等重要受法律保护权利的侵犯。同时，该决议还就 AI 可能造成的具有法律相关性的损害范围提出了建议，特别是是否应将重大非物质损害纳入其中。欧洲议会的法规草案表明，这种责任应涉及对自然人的生命、健康、身体完整性的损害，对自然或法人财产的损害，或导致可核实经济损失的重大非物质损害，并且赔偿金额应有限制。值得注意的是，该提案强调了非物质损失，尽管欧洲议会了解到一些欧盟成员国的法律体系不愿认可对非物质损失的金钱赔偿。

2021 年提案的附件 II 和附件 III 列出了高风险 AI 系统可能最易造成损害的产品和领域，包括机械、玩具、休闲船只和个人水上交通工具、电梯、用于潜在爆炸环境的设备和防护系统、无线电设备、压力设备、电缆安装、个人防护设备、燃气燃烧器具、医疗设备、体外诊断医疗设备、民航安全、两轮或三轮车辆和四轮摩托车、农业和林业车辆、海洋设备、铁路系统、机动车辆及其拖车、无人机、自然人的生物识别和分类；关键基础设施的管理和运营；教育和职业培训；就业、工人管理和自主创业机会；获得和享受基本私人服务和公共服务及福利；执法；移民、庇护和边境管制管理；司法行政和民主进程等。尽管这个列表看似杂乱无章，但它或许能让我们了解委员会的偏好。

综上所述，AI 责任相关的法律问题涉及多个方面，包括责任归属、损害定义、因果关系、举证责任、责任制度以及过错认定等。随着 AI 技术的不断发展，这些法律问题需要进一步深入研究和完善，以确保法律的公平性和有效性，保护各方的合法权益。在未来的发展中，我们需要密切关注相关法律的制定和实施，以及司法实践的发展，以适应 AI 技术带来的挑战。同时，对于 AI 可能造成的各种损害，我们也需要建立相应的预防和赔偿机制，以降低风险，促进 AI 技术的健康发展。

graph LR
    A[AI 造成的具有法律相关性的损害] --> B[决议规定的保护权利]
    A --> C[法规草案的责任范围]
    A --> D[高风险 AI 系统易损产品和领域]
    B --> B1[生命、健康、身体完整性和财产权利]
    C --> C1[自然人生命、健康等损害]
    C --> C2[自然或法人财产损害]
    C --> C3[重大非物质损害导致经济损失]
    D --> D1[机械、玩具等产品]
    D --> D2[关键基础设施管理等领域]

6. AI 责任法律问题的深入探讨

在前面我们已经了解了 AI 责任相关的诸多法律概念和现状，接下来我们进一步深入探讨这些问题在实际应用中的复杂性和挑战。

6.1 责任归属的动态性

AI 系统的发展是动态的，其责任归属也并非一成不变。随着 AI 技术的不断进化，从简单的规则驱动系统到复杂的深度学习模型，其自主决策能力逐渐增强。在早期，AI 系统的行为更多地受到人类程序员的控制，责任可能更多地倾向于开发者或操作者。但当 AI 系统具备了高度的自主性，能够在复杂环境中独立做出决策时，责任的界定就变得模糊起来。例如，在自动驾驶汽车领域，当车辆在行驶过程中发生事故，是应该由汽车制造商、软件开发者、数据提供者还是车辆使用者来承担责任呢？这需要根据具体情况进行细致的分析。

6.2 损害评估的困难性

对于 AI 造成的损害进行准确评估是一项极具挑战性的任务。一方面，AI 系统可能导致的损害形式多样，除了传统的人身伤害和财产损失外，还可能包括声誉损害、隐私侵犯等非物质损害。这些非物质损害的评估缺乏明确的标准和量化方法，不同的人可能有不同的看法。另一方面，AI 系统的运行往往涉及大量的数据和复杂的算法，其造成的损害可能是间接的、长期的，难以直接追溯到具体的行为和原因。例如，一个 AI 推荐系统可能会根据用户的浏览历史和偏好推送信息，导致用户过度沉迷或做出错误的决策，这种损害的评估就需要综合考虑多个因素。

6.3 法律适用的冲突性

由于不同国家和地区的法律体系存在差异，在处理 AI 责任问题时可能会出现法律适用的冲突。一些国家可能更倾向于采用严格责任制度，而另一些国家则更注重过错责任。此外，随着 AI 技术的跨国应用，可能会出现一个事件涉及多个国家法律的情况。例如，一个跨国的 AI 医疗诊断系统在不同国家使用时，如果出现误诊导致患者受到损害，应该适用哪个国家的法律来确定责任和赔偿呢？这就需要建立国际统一的法律标准或协调机制来解决。

7. 应对 AI 责任法律问题的建议

面对上述复杂的 AI 责任法律问题，我们需要采取一系列的措施来应对，以确保法律的公平性和有效性。

7.1 完善法律体系

• 制定专门的 AI 责任法律 ：针对 AI 技术的特点和发展趋势，制定专门的法律来明确 AI 责任的归属、损害的定义和评估标准、举证责任的分配等问题。这样可以避免在现有法律框架下的模糊性和不确定性。
• 协调国际法律标准 ：加强国际间的合作与交流，推动建立统一的 AI 责任法律标准。可以通过国际组织或多边协议的方式，促进各国在 AI 责任法律方面的协调和统一。

7.2 加强监管力度

• 建立监管机构 ：设立专门的监管机构来监督 AI 系统的开发、使用和运营。监管机构可以制定相关的规范和标准，对 AI 系统进行审查和评估，确保其符合法律和道德要求。
• 加强数据监管 ：AI 系统的运行依赖于大量的数据，因此加强对数据的监管至关重要。要确保数据的合法性、安全性和隐私性，防止数据被滥用导致损害。

7.3 强化技术手段

• 可解释性技术 ：开发 AI 系统的可解释性技术，使人们能够理解 AI 系统的决策过程和依据。这样在出现问题时，能够更容易地确定责任和原因。
• 安全技术 ：加强 AI 系统的安全技术研发，提高其抗攻击能力和可靠性。例如，采用加密技术、访问控制技术等，防止 AI 系统被恶意攻击或出现故障。

8. 未来展望

随着 AI 技术的不断发展和应用，AI 责任法律问题将变得越来越重要。未来，我们需要不断地研究和探索，以适应 AI 技术带来的新挑战。

• 法律与技术的融合 ：法律和技术将更加紧密地结合在一起。一方面，法律需要引导和规范技术的发展，确保其符合社会的利益和价值观；另一方面，技术也可以为法律的实施提供支持和保障，例如通过区块链技术实现责任的追溯和证据的保存。
• 公众参与和教育 ：公众的参与和教育对于解决 AI 责任法律问题至关重要。要提高公众对 AI 技术的认识和理解，增强公众的法律意识和维权意识。同时，鼓励公众参与法律的制定和监督，使法律更加符合公众的利益和需求。

graph LR
    A[AI 责任法律问题] --> B[深入探讨]
    A --> C[应对建议]
    A --> D[未来展望]
    B --> B1[责任归属动态性]
    B --> B2[损害评估困难性]
    B --> B3[法律适用冲突性]
    C --> C1[完善法律体系]
    C --> C2[加强监管力度]
    C --> C3[强化技术手段]
    D --> D1[法律与技术融合]
    D --> D2[公众参与和教育]

总之，AI 责任相关的法律问题是一个复杂而又具有挑战性的领域。我们需要综合考虑多个因素，采取多种措施来解决这些问题，以确保 AI 技术能够在法律和道德的框架内健康发展，为人类社会带来更多的福祉。

应对措施	具体内容
完善法律体系	制定专门的 AI 责任法律，协调国际法律标准
加强监管力度	建立监管机构，加强数据监管
强化技术手段	开发可解释性技术，加强安全技术研发