29、人工智能的权利滥用与责任承担

人工智能的权利滥用与责任承担

1. 人工智能与权利滥用

1.1 传统视角与人工智能的改变

在传统观念里，特定的民事法律关系（如消费者关系）或具有某些特征的实体（如智力障碍者）会受到特殊保护。一般来说，利用智力优势的活动并不被禁止，且这种情况下的纠正机制并非权利滥用的概念，因为这并非涉及民事法律关系中主观权利的行使，而是涵盖了多种可被描述为个体表达或群体文化的活动。

然而，当人工智能作为自主主体（部分具有法律主体地位）出现时，情况发生了变化。人工智能这一非生命世界的实体，能够积极影响人类的决策、情感和认知过程，进而改变甚至塑造人类行为。这就使得我们有必要重新定义权利滥用的概念。虽然软件架构应强制纳入理想的（“合乎伦理”）运行模式，否则将拒绝认证和注册，但出于保护人类基本权利和法律交易中人类参与者利益的需要，人工智能的某些行为即便符合既定目标和法律限制，在某些情况下仍可能产生不可接受的结果，这种形式上合法但从法律价值论角度不可接受的行为，可被认定为权利滥用。

1.2 权利滥用机制的作用

考虑到人工智能的智力优势，需要类似民事法律在市场地位不平衡时所提供的保护。权利滥用机制可作为一种安全阀，保护参与由人工智能发起或塑造的民事法律关系中的人类。

1.3 隐性勾结问题

人工智能发展带来的风险中，竞争损害风险备受关注，其中隐性勾结现象值得探讨。隐性勾结指的是人工智能之间通过交流或同步，在市场参与者（企业家）意愿之外形成的勾结。这种行为仅凭借高目标实现效率获取竞争优势，不涉及以往非法市场干预机制中的行为。例如，企业家激活定价人工智能后，各人工智能通过智能分析其他交易参与者的行为，在无明显接触的情况下，自行调整行为以找到最优平衡点，最终导致市场分割、价格高于竞争水平或设定最低价格。

Ezrachi 和 Stucke 识别出四种可能的情景：
1. 信使情景 ：人类通过固定竞争产品价格达成勾结，并利用算法促进勾结。
2. 枢纽与辐条情景 ：第三方提供市场数据处理服务，利用人工智能更新价格和优化利润，从而促进竞争对手之间的价格固定。
3. 强化隐性勾结情景 ：人类以增加隐性勾结机制激活可能性的方式编写算法，虽不相互交流，但有意识地利用市场过程知识。
4. 人工智能与数字眼情景 ：人类预测在日益透明的市场中使用先进算法可单方面确定利润最大化价格。

经过公众讨论，前两种情景因需要协议，被视为反垄断干预的候选对象。而后两种情景较难评估，尽管有经济学家认为无交流的隐性勾结在实践中不可能，但随着人工智能的发展，情况可能改变。

2. 人工智能的责任承担

2.1 现有责任法律的不足

当前的责任法律难以应对算法带来的新风险，存在诸多责任缺口，其原因包括：
1. 机器连接性 ：多台计算机在算法网络中紧密互联造成损害。
2. 大数据使用 ：难以明确错误计算（算法或基础数据），导致确定因果关系和不当行为困难。
3. 混合合作 ：人类行为和算法计算相互交织，难以确定造成损害的具体行为。
4. 算法合同 ：软件代理发出具有法律约束力的声明，但将人类伪装成主要依赖方时，风险归属不明确。
5. 数字违约 ：运营商证明软件代理使用正确且自身未违反合同义务时，不承担责任。
6. 现行侵权和产品责任机制 ：基于过错的责任认定中，人类遵守义务则无责任；产品责任规则虽有一定缓解作用，但无法填补责任缺口。
7. 现行和提议的工业危害责任机制 ：严格责任原则不适用于数字决策的特定风险。

2.2 欧盟相关提案

欧盟目前没有针对人工智能的特定民事责任制度，现有责任框架基于产品责任指令（PLD），但在人工智能领域存在诸多问题，如软件是否属于产品、生产者概念界定不清、难以确定预期安全水平、网络安全与缺陷关系不明确、纯经济损失和个人数据或隐私损害未明确涵盖等。

为解决这些问题，欧洲委员会于 2022 年 9 月 28 日发布了两份相关文件（Proposal DLDP 2022 和 Proposal ALD 2022），提出了以下关键变化：
1. 产品定义修改 ：Proposal DLDP 2022 中将产品定义修改为包括软件和数字生产文件。
2. 损害定义拓宽 ：涵盖非专业用途数据丢失或损坏造成的物质损失。
3. 证据披露制度 ：在索赔人自行获取证据并证明其主张合理后触发。
4. 可反驳推定 ：
- Proposal DLDP 2022：产品缺陷（特定条件下）、产品缺陷与损害之间的因果关系（特定条件下）。
- Proposal ALD 2022：被告未遵守披露命令时未履行注意义务、被告过错与损害之间的因果关系（合理可能时）。

但这些提案处于立法早期阶段，部分变化可能存在反作用，条件和例外情况可能使法院程序变得复杂。

2.3 阿西莫夫定律的分析

欧洲议会曾提议将阿西莫夫定律作为未来机器人相关民法发展的核心，但该定律存在诸多问题。阿西莫夫定律包括：
1. 第零定律 ：机器人不得伤害人类，或因不作为使人类受到伤害。
2. 第一定律 ：机器人不得伤害人类个体，或因不作为使人类个体受到伤害，除非违反第零定律。
3. 第二定律 ：机器人必须服从人类的命令，除非该命令与第零或第一定律冲突。
4. 第三定律 ：机器人必须保护自己的存在，只要这种保护不与第零、第一或第二定律冲突。

然而，目前机器人领域的共识是，阿西莫夫定律存在许多误解，在实践中不可行。该定律表述模糊，人类都难以理解其确切含义，更不用说机器人。例如，“伤害”或“损伤”的精确含义不明确，军事使用机器人的合理性难以解释，机器人应服从哪些人类的命令也不清晰等。

而且，阿西莫夫定律未明确适用的机器人类型。目前，人工智能系统可分为狭义（弱）和通用（强）人工智能，但强人工智能何时出现或是否会出现尚不确定，强弱人工智能之间的差异性质和过渡方式也不明确。

2.4 不同法律制度对阿西莫夫定律的适用性

不同的阿西莫夫定律需要不同类型的法律责任来确保其遵守：
|定律|适用法律制度|具体说明|
| ---- | ---- | ---- |
|第零定律|刑法和行政法|民法无法保护“人类”整体，该定律在民法中不实用。违反此定律风险大，刑法和行政法的监管方法更合适。责任应无限期，可按规则依次转移或由相关主体分担，机器人注册系统和强制保险有一定重要性，还需设立特殊担保基金。|
|第一定律|刑法和民法|该定律与侵权责任的一般规则紧密相关，但在不同法律秩序中，其规范内容可能不同。如果将其纳入民法，需要建立类似现有责任形式的新责任，责任应无限期，可由生产者、设计者等主体分担。此外，该定律不能明确机器人不能针对的主体，未来可能会出现机器人之间的诉讼。|
|第二定律|民事责任（不当履行义务、担保或保证责任）|当仅涉及机器人不服从人类命令且未造成损害时，这种责任形式较为合适。但该定律与第一定律可能存在冲突，需要机器人评估行为的危害程度和命令的合理性，这在技术上难以实现。|
|第三定律|类似民事担保或保证责任|该定律在实践中有两种处理方式：一是认为机器人不能对人类进行自卫，以缓解对机器崛起的恐惧；二是允许机器人自卫，但这可能危及人类尊严。随着强人工智能或自我意识人工智能的接近，机器人可能获得自卫权。|

2.5 欧洲议会的相关决议

在 Resolution 2017 发布后，经过广泛讨论，欧洲议会在 Resolution 2020 中放弃了赋予机器人法律地位或直接责任的想法。但在附件中，明确责任主体为自然人或法人，如生产者或操作员。

对于高风险人工智能系统，操作员应承担严格责任，除非损害由不可抗力造成，且赔偿金额和范围有限。对于非高风险人工智能系统，操作员应承担基于过错的责任，但在某些情况下可被推定有过错，操作员可基于特定理由免责。

然而，将人工智能系统分为高风险和非高风险的做法存在问题。这种划分具有一定的任意性，不同文件对高风险的定义不同。而且，高风险和非高风险人工智能系统在要求和监管上差异较大，这种情况在民事责任制度中应受到批评。

mermaid 格式流程图展示人工智能责任承担流程：

graph LR
    A[人工智能行为] --> B{是否高风险系统}
    B -- 是 --> C[操作员严格责任]
    C --> D{是否不可抗力}
    D -- 是 --> E[操作员免责]
    D -- 否 --> F[承担赔偿责任]
    B -- 否 --> G[操作员过错责任]
    G --> H{是否可推定过错}
    H -- 是 --> I{是否满足免责理由}
    I -- 是 --> E
    I -- 否 --> F
    H -- 否 --> F

综上所述，人工智能的发展给权利滥用和责任承担带来了新的挑战和问题，需要我们重新审视和完善相关的法律制度，以确保人类的利益和社会的公平正义。

3. 人工智能责任承担相关问题的深入探讨

3.1 责任主体的确定难题

在人工智能的责任承担中，确定责任主体是一个复杂的问题。由于人工智能系统的复杂性，涉及多个参与方，如设计者、生产者、软件和硬件服务人员、数据管理者、操作员和所有者等。

例如，在一个由人工智能驱动的自动驾驶汽车发生事故的案例中，可能涉及到汽车制造商（生产者）、人工智能算法的开发者（设计者）、提供数据支持的数据公司（数据管理者）以及使用汽车的车主（操作员）。当事故发生时，很难明确到底是哪个环节出现了问题，以及哪个主体应该承担主要责任。

从不同定律的角度来看，责任主体的确定也有所不同：
- 第零定律 ：由于其涉及到对人类整体的保护，责任可能会依次转移或由多个主体分担。最初可能由生产者或设计者承担责任，后续可能涉及到软件或硬件服务人员、数据管理者、操作员或所有者。
- 第一定律 ：对于造成个人伤害或损害的情况，生产者、设计者、操作员等都可能成为责任主体。在一些情况下，可能会根据具体的法律规定和证据来确定各主体的责任比例。
- 第二定律 ：当机器人不服从人类命令时，主要涉及到机器人的行为，此时操作员或对机器人有控制权的主体可能需要承担责任。但如果是由于算法设计的问题导致机器人无法正确判断命令的合理性，设计者也可能需要承担一定责任。
- 第三定律 ：如果机器人为了保护自己而对人类造成了伤害，责任的确定会更加复杂。需要考虑机器人的自主性、人类的行为是否构成威胁以及相关的法律规定等因素。

3.2 法律与伦理责任的交织

人工智能的责任承担不仅涉及到法律问题，还与伦理责任密切相关。阿西莫夫定律的提出在一定程度上是为了缓解人们对人工智能的恐惧，体现了伦理层面的考量。

然而，在实际应用中，法律责任和伦理责任可能会出现冲突。例如，从伦理角度来看，设计者、生产者等应该对机器人的行为负责，确保其遵守阿西莫夫定律。但在法律上，可能由于证据不足、法律规定不明确等原因，无法让这些主体承担相应的责任。

另外，对于非行动的责任问题，伦理和法律的观点也存在差异。在伦理上，对于非行动导致的伤害是否应该承担责任存在争议。而在法律上，通常需要明确的义务和因果关系才能确定责任。例如，一个机器人没有主动帮助他人避免伤害，在伦理上可能会受到质疑，但在法律上，需要判断相关主体是否有法律义务要求机器人采取行动。

3.3 技术发展对责任制度的挑战

随着人工智能技术的不断发展，如机器学习、深度学习等技术的应用，人工智能系统的自主性和复杂性不断提高，这给现有的责任制度带来了更大的挑战。

• 自主性增强 ：人工智能系统能够自主学习和做出决策，这使得其行为更加难以预测和控制。例如，一个基于深度学习的人工智能投资系统，可能会根据市场数据自主调整投资策略，当出现投资失误导致损失时，很难确定是算法本身的问题、数据的问题还是系统自主决策的结果。
• 复杂性增加 ：人工智能系统往往涉及到多个组件和复杂的交互过程，这使得确定因果关系变得更加困难。例如，一个智能医疗诊断系统，可能会结合多种数据源和算法进行诊断，当诊断错误导致患者受到伤害时，很难确定是哪个环节出现了问题。

为了应对这些挑战，需要不断完善责任制度，加强对人工智能技术的监管和规范。例如，建立更加严格的算法审查机制、明确数据提供者的责任、加强对人工智能系统的监测和评估等。

4. 应对人工智能权利滥用和责任承担的建议

4.1 完善法律制度

• 明确责任主体和责任范围 ：制定具体的法律规定，明确在不同情况下各主体的责任，避免责任推诿。例如，对于人工智能产品造成的损害，规定生产者、设计者、操作员等主体的责任比例和承担方式。
• 建立特殊责任制度 ：针对人工智能的特点，建立特殊的责任制度，如严格责任制度、连带责任制度等。对于高风险的人工智能系统，实行严格责任，确保受害者能够得到及时的赔偿。
• 完善法律解释和适用 ：随着人工智能技术的发展，及时对法律进行解释和修订，使其能够适应新的情况。例如，明确软件是否属于产品的范畴，以及如何界定人工智能系统的缺陷。

4.2 加强技术监管

• 算法审查和评估 ：建立专门的机构对人工智能算法进行审查和评估，确保算法的安全性和公正性。例如，对用于金融领域的人工智能算法进行审查，防止其出现歧视性或不公平的决策。
• 数据管理和保护 ：加强对人工智能系统使用的数据的管理和保护，确保数据的质量和安全性。例如，规定数据提供者的责任，要求其对数据的真实性、完整性和合法性负责。
• 系统监测和审计 ：对人工智能系统进行实时监测和定期审计，及时发现和解决潜在的问题。例如，对自动驾驶汽车的运行状态进行监测，当发现异常情况时及时采取措施。

4.3 促进伦理和法律的融合

• 制定伦理准则 ：制定人工智能领域的伦理准则，引导从业者遵守道德规范。例如，规定人工智能系统的设计和开发应该遵循公平、公正、透明等原则。
• 将伦理纳入法律考量 ：在制定法律时，充分考虑伦理因素，使法律制度既符合法律要求，又符合伦理道德。例如，在确定责任时，考虑行为的伦理合理性。
• 加强公众教育 ：通过公众教育，提高人们对人工智能伦理和法律问题的认识，增强公众的监督意识。例如，开展人工智能伦理和法律的宣传活动，让公众了解自己的权利和义务。

5. 总结

人工智能的发展给我们带来了巨大的机遇，但也带来了权利滥用和责任承担等新的问题。在权利滥用方面，人工智能的自主性使得其行为可能会对人类的决策和行为产生影响，需要重新定义权利滥用的概念，并利用权利滥用机制来保护人类的利益。

在责任承担方面，现有的责任法律制度难以应对人工智能带来的挑战，需要不断完善和创新。阿西莫夫定律虽然在一定程度上试图解决人工智能与人类关系的问题，但在实践中存在诸多问题，不同定律需要不同的法律制度来确保其遵守。

为了应对这些问题，我们需要从完善法律制度、加强技术监管和促进伦理与法律融合等多个方面入手，建立健全的人工智能治理体系，以确保人工智能的发展能够造福人类，同时保障社会的公平正义和安全稳定。

以下是一个 mermaid 格式流程图，展示应对人工智能问题的整体流程：

graph LR
    A[人工智能发展] --> B{出现问题}
    B -- 权利滥用 --> C[完善权利滥用定义和机制]
    B -- 责任承担 --> D[完善责任法律制度]
    D --> E[明确责任主体和范围]
    D --> F[建立特殊责任制度]
    D --> G[完善法律解释和适用]
    B --> H[加强技术监管]
    H --> I[算法审查和评估]
    H --> J[数据管理和保护]
    H --> K[系统监测和审计]
    B --> L[促进伦理和法律融合]
    L --> M[制定伦理准则]
    L --> N[将伦理纳入法律考量]
    L --> O[加强公众教育]
    C --> P[保护人类利益]
    E --> P
    F --> P
    G --> P
    I --> P
    J --> P
    K --> P
    M --> P
    N --> P
    O --> P

通过以上措施，我们可以更好地应对人工智能带来的挑战，推动人工智能技术的健康发展，实现人类与人工智能的和谐共生。