27、人工智能在合同履行与权利滥用中的法律问题探讨

人工智能在合同履行与权利滥用中的法律问题探讨

1. 人工智能在合同履行中的角色定位

1.1 视为第三方的情形

当债务人的履行在某种宽泛意义上与决策相关，且债务人本应亲自履行时，将这些决策委托给人工智能（即授权人工智能采取行动），在合同履行的背景下，应被视为第三方的行为。因为从相关研究来看，人工智能可被视为一个行为主体。

1.2 确定“相关行动”和合同“关键要素”的重要性

在讨论自主人工智能的影响时，需要考虑从债权人利益角度来看具有决定性重要意义的要素。如果债权人要求亲自履行，显然他关注的是合同某些关键要素的亲自履行，而非不决定履行本质的辅助要素。这些合同的关键要素是否客观存在，取决于具体情境。将人工智能认定为“第三方”而非仅仅是“工具”，似乎会加强债权人的地位，至少在某些履行情况下，债权人对是否以及在多大程度上可以使用人工智能有更多的影响力。

2. 合同履行中使用人工智能的信息义务

2.1 信息披露的必要性

在合同由人工智能履行的任何情况下，都存在是否应告知合同另一方的问题。在合同订立阶段使用人工智能必须公开披露，同理，在合同履行阶段，也必须在公共登记册中明确且可核查地提供有关人工智能运行的充分信息，否则将被视为合同履行不当。使用智能系统履行义务会给整个义务关系引入一个重要的非人类因素，超越了传统的人类使用传达其意志的工具来履行义务的框架。而且，在处理个人数据或对人类事务做出决策的合同履行中使用人工智能，可能被视为侵犯基本权利。

2.2 相关法律规定

• GDPR第22条 ：数据主体有权不受到仅基于自动化处理（包括画像）而产生的对其具有法律影响或产生重大影响的决策的约束。但在以下情况除外：
  • 该决策是数据主体与数据控制者订立或履行合同所必需的；
  • 该决策得到数据控制者所适用的欧盟或成员国法律的授权，且该法律规定了保护数据主体权利、自由和合法利益的适当措施；
  • 该决策基于数据主体的明确同意。
• Ferdinand von Schirach提出的新基本权利 ：每个人有权知道施加于他们的任何算法是透明、可验证和公平的，重大决策必须由人类做出。

2.3 信息披露的不同模型

• 最严格模型 ：债务人甚至在合同订立前就必须告知债权人将使用人工智能。这将使债权人充分了解情况并采取适当措施（如退出协议）；缺乏此类信息将使另一方有权退出合同，或者此类合同履行将被视为不当；如果债务人在合同订立后才决定使用人工智能，则必须获得债权人的后续同意。这种模型在消费者情境中值得考虑。
• 较宽松模型 ：信息必须在合同履行前提供，但不一定在合同订立前。在这种情况下，债权人不能反对使用人工智能或撤销合同。虽然使用人工智能不会伴随任何潜在制裁，但向债权人提供此类信息可能会在履行不当时为其提供某些工具（证据设施）。相反，不提供此类信息可能被视为不当履行，制裁范围可能从损害赔偿到退出合同不等。

2.4 具体合同履行的情况

在一般合同中，债务人通常可以使用人工智能履行义务，除非另有约定或义务性质要求否则。债权人要求债务人不使用人工智能通常是不合理的，除非合同中明确规定。然而，在某些特定合同中，如涉及医疗或护理服务的合同，由于个人履行要素通常被认可，使用人工智能可能会对合同的适当履行产生重大影响。例如，养老院提供的合同中使用医疗机器人的条款，如果委托范围未明确规定，在某些情况下可能被视为禁止条款。

以下是一个简单的流程图，展示了合同履行中使用人工智能的信息披露决策过程：

graph LR
    A[合同履行使用AI?] -->|是| B[告知债权人?]
    B -->|最严格模型| C[订立合同前告知]
    B -->|较宽松模型| D[履行合同前告知]
    C --> E{债权人同意?}
    E -->|是| F[正常履行]
    E -->|否| G[合同可能被撤销]
    D --> H[履行合同]
    H --> I{履行不当?}
    I -->|是| J[可能面临制裁]
    I -->|否| F
    A -->|否| F

3. 权利滥用概念在人工智能中的应用

3.1 权利滥用的定义和不同法律体系的规定

权利滥用是指有权主体在法律规定和合同关系的范围内行事，但方式与法律目的相悖，或旨在损害另一方，或因价值论原因无法被接受。不同国家对权利滥用的规定不同，有些国家仅在判例法或学说中存在该概念，有些则在法律文本中直接提及。其来源在一些法律体系中源于过错，在另一些中则源于诚信概念。
|国家|法律规定|与权利滥用的关联|
| ---- | ---- | ---- |
|比利时|《民法典》第1382条：任何人的任何行为，对他人造成损害的，因其过错导致该行为发生的人有义务予以赔偿；第1383条：每个人不仅要对自己的行为造成的损害负责，还要对其疏忽或鲁莽造成的损害负责。|与过错概念相关，作为权利滥用的归因依据|
|法国|《法国民法典》（1804年2月17日至2016年10月1日有效版本）第1134（3）条：合法订立的协议必须善意履行。|与诚信概念相关|
|瑞士|《瑞士民法典》规定：每个人都应按照诚信规则行使权利和履行义务。明显滥用权利不受法律保护。|直接使用“权利滥用”术语，与诚信概念相关|
|德国|《德国民法典》§226规定：权利的行使如果仅旨在对他人造成损害，则是不允许的。|明确权利滥用的一种情形|
|UNIDROIT|第1.7条将权利滥用视为恶意的最典型例子。指出一方恶意行使权利，如仅为损害另一方、为非授予该权利的目的行使权利，或行使权利与原本预期结果不成比例，即为权利滥用。|对权利滥用的行为特征进行了描述|

3.2 人工智能相关的权利滥用情况

• 人类利用人工智能滥用权利 ：当人类故意将人工智能作为获取禁止或道德上有问题结果的工具时，显然构成权利滥用。但此时评估的是操作者的行为，而非人工智能本身。
• 人工智能自身构成权利滥用的探讨 ：当人工智能自身的行为被视为可能构成权利滥用时，需要考虑以下问题：
  • 是否可以在需要考虑某些主观因素才能对人类进行此类分类的情况下，将人工智能视为滥用权利？
  • 是否可以因为人工智能相对于人类的智力优势，而将其视为出于与人类行为不同的原因滥用权利？
  • 人机关系是否会导致需要对权利滥用进行新的定义，以及是否会出现不符合现有权利滥用概念框架的新形式？

3.3 人工智能设计和开发中的预防措施

原则上，应在人工智能的设计阶段，以及后续的测试和注册过程中，消除其以典型滥用法律的方式行事的可能性，就像消除其非法或规避法律的行为一样。人工智能的目的必须明确描述并严格监管，在技术层面上，不允许其超越这些限制。任何超越此目的的行为都必须被视为非法。

然而，要在设计和注册层面识别具体的伦理违规所表现出的法律滥用问题更为困难。虽然人工智能系统应遵循伦理原则，如尊重人类自主性、预防伤害、公平和可解释性，但由于不道德行为是一个难以编码的评价性、无形类别，即使对于高风险人工智能，也只是提议通过适当的设计和开发尽可能消除或减少风险。

4. 人工智能在不同合同场景下的应用分析

4.1 建筑合同中的人工智能应用

在建筑合同中，例如签订创建建筑设计或建造特定建筑物的合同，很可能会在一定程度上使用人工智能来加速合同执行并改善结果。人工智能的使用可能是主要的，也可能是辅助性的（如建筑工人使用车载导航）。在信息披露方面，可借鉴《通用数据保护条例》（GDPR）的经验，债务人若打算使用人工智能履行合同，应告知债权人，信息范围需包括人工智能的“身份”、基本参数以及注册数据，以便验证其合法性并让债权人全面了解情况。但债权人通常不能禁止使用人工智能，也不能将其使用作为解除合同的理由，除非有客观评估认为这违背了债权人的利益。

4.2 消费合同中的人工智能应用

在消费合同场景下，考虑采用一种模式，即在合同订立前就向各方明确合同履行将在一定程度上使用人工智能。这一义务独立于合同订立时使用人工智能的告知义务。然而，存在一个问题，即这种知情使用人工智能是否应始终具有法律透明度，或者在消费关系中，规定债务人使用人工智能是否可能成为非法合同条款。在一些个人履行要素被普遍认可的关系中，如医疗或护理服务合同，使用人工智能可能会对合同的适当履行产生重大影响。例如，养老院合同中使用医疗机器人的条款，如果委托范围未明确规定，可能被视为禁止条款。

以下表格总结了不同合同场景下人工智能应用的特点和信息披露要求：
|合同类型|人工智能应用特点|信息披露要求|债权人权利|
| ---- | ---- | ---- | ---- |
|建筑合同|可能辅助或主要使用，用于加速执行和改善结果|告知人工智能“身份”、基本参数和注册数据|一般不能禁止使用或解除合同，除非违背自身利益|
|消费合同|合同订立前明确将使用人工智能|订立前告知使用情况|在特定情况下可因未告知或条款问题解除合同|
|医疗/护理服务合同|个人履行要素重要，使用人工智能影响大|明确使用及委托范围|可因使用人工智能及范围问题提出异议|

4.3 合同履行中人工智能使用的风险与应对

使用人工智能履行合同存在多种风险，如可能侵犯基本权利、导致履行不当等。为应对这些风险，可采取以下措施：
1. 严格信息披露 ：按照前文所述的不同模型和要求，及时、准确地向债权人披露人工智能的使用情况，确保债权人有足够的信息做出决策。
2. 明确合同条款 ：在合同中明确规定人工智能的使用范围、方式以及各方的权利和义务，避免因约定不明产生纠纷。
3. 加强监管和审查 ：在人工智能的设计、开发、测试和注册过程中，加强监管，确保其符合法律和伦理要求，减少潜在风险。

5. 人工智能权利滥用问题的深入思考

5.1 人工智能主观因素的考量

判断人工智能是否构成权利滥用时，面临一个难题，即是否可以将适用于人类的主观因素应用于人工智能。人类的权利滥用评估通常涉及意识、意志、心理态度等主观因素，但人工智能是否具有类似的主观特征存在争议。一种观点认为，人工智能只是按照预设的算法和程序运行，不具备真正的主观意识，因此不能简单地将主观因素应用于对其行为的评估。另一种观点则认为，随着人工智能技术的发展，其表现出的复杂行为和决策能力可能需要重新审视主观因素的适用。

5.2 人工智能智力优势与权利滥用

人工智能相对于人类具有智力优势，这可能导致其以与人类不同的方式滥用权利。例如，人工智能可能利用其快速处理信息和精准决策的能力，在合同履行中获取不正当利益，或者在与人类的交互中采取不公平的策略。在这种情况下，需要思考是否应基于其智力优势对权利滥用的定义和判断标准进行调整。

5.3 人机关系下权利滥用的新形式

随着人机交互的日益频繁和深入，可能会出现不符合现有权利滥用概念框架的新形式。例如，人工智能可能通过操纵数据、算法偏见等方式影响人类的决策和权益，而这种行为在传统的权利滥用概念中可能未被充分考虑。因此，需要重新审视和定义权利滥用的概念，以适应人机关系的新变化。

以下是一个流程图，展示了评估人工智能权利滥用的思考过程：

graph LR
    A[AI行为是否可能构成滥用权利?] -->|是| B[考虑主观因素适用?]
    B -->|适用?| C{可应用人类主观因素?}
    C -->|是| D[按人类标准评估]
    C -->|否| E[基于AI特点评估]
    E --> F[考虑AI智力优势影响?]
    F -->|是| G[调整判断标准]
    F -->|否| H[常规评估]
    D --> I[判断是否滥用权利]
    G --> I
    H --> I
    I -->|是| J[采取相应措施]
    I -->|否| K[正常对待]
    A -->|否| K

6. 总结与展望

6.1 总结

人工智能在合同履行和权利滥用方面带来了一系列新的法律问题。在合同履行中，人工智能的角色定位、信息披露义务以及不同合同场景下的应用都需要明确的规则和考量。将人工智能视为第三方而非仅仅是工具，加强了债权人在某些情况下的地位。信息披露的不同模型为合同双方提供了不同的选择，但在消费合同等特定场景下，需要更加严格的信息披露要求。在权利滥用方面，人类利用人工智能构成权利滥用时评估的是操作者行为，而人工智能自身行为构成权利滥用的判断则面临主观因素、智力优势和新形式等多方面的挑战，需要在设计和开发中采取预防措施。

6.2 展望

未来，随着人工智能技术的不断发展和应用范围的扩大，相关的法律问题将更加复杂和多样化。需要进一步完善法律体系，明确人工智能在合同履行和权利滥用方面的法律责任和义务。同时，加强跨学科研究，结合法学、伦理学、计算机科学等多学科知识，制定更加合理、有效的规则和标准。此外，公众对人工智能的认知和接受程度也将影响法律的实施和发展，因此需要加强宣传和教育，提高公众对人工智能法律问题的认识和理解。

总之，人工智能的发展既带来了机遇，也带来了挑战。我们需要积极应对这些挑战，通过合理的法律制度和规范，引导人工智能在合法、合规、伦理的轨道上发展，以实现人机和谐共处和社会的可持续发展。