32、人工智能的可归责性探讨

人工智能的可归责性探讨

1. 人工智能使用中的过失与责任标准

在人工智能的使用中，过失可能源于对认证本身的疏忽审查。一般来说，终端用户往往无法验证人工智能的运行情况，所以只能信赖所使用的人工智能。其责任通常仅局限于经典的“选择过失”，也就是在选择人工智能时的过错。不过，只要谨慎选择人工智能，核实其来源并遵守注册数据，通常就可以排除责任。

不同领域中人工智能系统的尽职标准存在差异。在医疗等领域，可能只有一种标准，且这种标准可能只有机器才能达到。而在驾驶汽车等领域，至少在过渡时期，人工智能和人类可能适用不同的标准。通常情况下，自动驾驶车辆可能需要比人类驾驶员更高的谨慎程度。在相同情况下，由人类驾驶员和机器引发的事故可能会有不同的判定结果。随着时间推移，更安全的自动驾驶系统有望逐渐取代人类驾驶，甚至可能最终全面禁止人类驾驶，适当的经济激励措施（如保险费调整）可能会加速这一替代过程。可以预见，人工智能的发展必然会促使勤勉和过失的概念发生变化，而且这种变化将持续较长时间，直到先进技术主导的活动与人类领域的活动达到新的平衡。

2. 人工智能法律可归责性的必要性

从广义上讲，可归责性涵盖了刑事和民事领域的过错概念，以及民法中的故意和过失。目前，欧洲的相关法案、研究以及大多数学说主张，人工智能造成损害的严格责任应由其生产者、所有者、使用者、操作者、提供者或开发者等广义上的持有者承担。这种严格责任模式似乎更能保护消费者等弱势群体的利益，并且易于实施，能满足当前的需求。

然而，在不久的将来，这种严格责任模式可能会出现问题。一方面，当人工智能用于公共利益时，严格责任可能显得不公平，因为它在降低自然风险的同时，可能会对人工智能的发展产生负面影响。另一方面，随着新兴技术的广泛应用，一个人工智能对另一个人工智能造成损害的情况可能会增加，这在劳动领域尤为明显。在这种情况下，适用严格责任可能并不合理。

此外，某些类型的人工智能在市场和社会生活中的参与度和自主性可能极高，它们可能会被赋予一定的民事法律主体地位，类似于法人的主体地位。如果人工智能具有一定的法律主体地位，它就可以对自己的行为负责，此时让人类或其他实体为其行为承担严格责任可能并不公正。因此，需要找到一种正确的方式来确定人工智能的法律责任。

下面通过表格对比不同情况下人工智能责任模式的合理性：
|情况|严格责任模式合理性|
| ---- | ---- |
|用于公共利益|可能不合理，会抑制发展|
|AI间损害|可能不合理，情况复杂|
|具有法律主体地位|可能不合理，应自身担责|

技术发展的趋势也对现有的责任标准提出了挑战。如今的技术发展旨在降低风险，提高准确性和安全性。例如，自动驾驶汽车和医疗机器人的发展，它们在提高安全性的同时，也让人们对现有的严格责任标准产生了质疑。如果患者更倾向于由医疗机器人进行手术，那么医院因使用机器人而承担更严格的责任是否合理？如果自动驾驶汽车使街道更安全，那么收紧交通事故损害的责任制度是否必要？这些问题表明，现有的更严格责任标准的理由已经不够充分。

3. 法律可归责性：是物理事实还是社会事实？人工智能是否可归责？

主流观点认为，由于当代人工智能没有意识，无法赋予其某种心理状态，因此不能依据法律可归责性的标准来评估其行为。在大多数法律体系中，判定可归责性需要考虑主体对行为的态度或负面的心理状态。从逻辑上讲，人工智能不属于“具有法律可归责性”的范畴。在西方文化中，只有有意识的生物才能被赋予心理状态。

然而，这种观点存在一些问题。判定法律可归责性是否真的需要了解主体的心理状态呢？实际上，虽然人类有认知他人心理状态的能力，但法律在判定可归责性时，对自然科学方法的改进持怀疑态度，例如法院不太愿意使用脑成像技术。

医学专家加扎尼加指出，责任并非存在于大脑中，大脑中并没有负责责任的区域或网络。责任是人与人之间的一种社会契约，是一种社会概念。只要主体（1）理解社会契约的要求，（2）知道如何履行规则，（3）期望其他主体也履行契约，那么该主体就具有法律可归责性和责任能力。

当代法律体系中，法人等不产生心理状态的法律主体也会被判定是否具有法律可归责性，这也支持了可归责性是社会概念的观点。在刑法领域，关于法人是否能成为犯罪责任主体存在争议。但有专家认为，至少在某些情况下，法人具有道德行为能力，因为它能够理解其行为的后果并做出选择。同样，计算机程序也可以成为道德主体，因为可以编写程序使其知道自己的行为是否合法，并做出道德决策。

下面用mermaid流程图展示判定主体是否具有法律可归责性的过程：

graph LR
    A[主体] --> B{理解契约要求?}
    B -- 是 --> C{知道履行规则?}
    C -- 是 --> D{期望他人履行?}
    D -- 是 --> E[具有法律可归责性]
    B -- 否 --> F[不具有法律可归责性]
    C -- 否 --> F
    D -- 否 --> F

以一个公司董事会决策导致建筑倒塌的案例为例，说明法人的决策和潜在的可归责性不仅仅取决于成员的个人决策和意图，还与决策规则等社会因素有关。同样，人工智能也可以被视为物理 - 社会系统，其决策和可归责性可能源于这样的系统。人类也是物理 - 社会系统，人类的决策和可归责性并非由单一的物理中心或因素决定，而是物理和社会因素共同作用的结果。虽然结论尚不明确，但一个合理的假设是，具有法律可归责性是物理 - 社会系统的一种属性。

人工智能的可归责性探讨

4. 人工智能可归责性的进一步分析

从前面的讨论可知，人工智能的可归责性与传统的责任判定存在诸多不同。我们可以进一步通过列表梳理不同类型主体可归责性的特点：
|主体类型|可归责性判定依据|特点|
| ---- | ---- | ---- |
|人类|心理状态、行为态度等|具有主观意识和情感|
|法人|决策规则、行为后果理解|由组织规则和成员决策共同影响|
|人工智能|程序设定、行为结果|依赖于软件和硬件环境|

在实际应用中，人工智能的行为表现受到多种因素的制约。例如，在金融领域，智能投资顾问系统依据预设的算法和模型为客户提供投资建议。如果该系统给出的建议导致客户遭受重大损失，此时如何判定可归责性就变得复杂。一方面，系统的开发者可能声称是按照既定的算法和数据进行设计，没有主观故意；另一方面，系统在运行过程中可能受到数据质量、市场突发情况等因素的影响。

再来看一个物流场景的例子。智能仓储机器人在仓库中运行，如果一个机器人在搬运货物时碰撞并损坏了另一个机器人，这就涉及到两个智能主体之间的责任问题。在这种情况下，不能简单地将责任归咎于某一方，而需要综合考虑机器人的编程逻辑、运行环境以及当时的任务指令等因素。

5. 不同领域人工智能可归责性的差异

不同领域的人工智能由于其功能和应用场景的不同，可归责性的判定也存在差异。以下通过表格进行对比：
|领域|人工智能特点|可归责性判定难点|
| ---- | ---- | ---- |
|医疗|高精准度要求、关乎生命健康|医疗后果的多因素性，难以区分是技术故障还是病情复杂|
|交通|涉及公共安全、实时决策|复杂路况和其他交通参与者的影响|
|金融|处理大量资金和敏感信息|市场波动和数据准确性的影响|

在医疗领域，医疗机器人虽然能够提高手术的精准度，但手术的成功与否不仅仅取决于机器人的操作。患者的个体差异、病情的复杂性等因素都可能影响最终的结果。如果手术出现意外，很难确定是机器人的故障、医生的操作失误还是患者自身的特殊情况导致的。

在交通领域，自动驾驶汽车面临着复杂的路况和其他交通参与者的不确定性。例如，突然出现的行人、其他车辆的违规行为等都可能引发事故。在判定自动驾驶汽车的可归责性时，需要考虑这些外部因素对车辆决策和操作的影响。

在金融领域，智能交易系统的决策依赖于大量的数据和算法。市场的突发波动、数据的不准确或延迟等都可能导致系统做出错误的决策。而且，金融市场的复杂性使得很难明确区分是系统的问题还是市场的正常变化导致的损失。

6. 人工智能可归责性的未来发展趋势

随着人工智能技术的不断发展，其可归责性的判定也将面临新的挑战和变化。以下用mermaid流程图展示未来可能的发展趋势：

graph LR
    A[人工智能发展] --> B{应用范围扩大}
    B -- 是 --> C{复杂程度增加}
    C -- 是 --> D{责任判定更复杂}
    D --> E[完善法律和标准]
    B -- 否 --> F[维持现有状态]
    C -- 否 --> F

未来，人工智能的应用范围将不断扩大，涉及到更多的领域和场景。同时，人工智能的复杂程度也会不断增加，例如深度学习算法的应用使得系统的决策过程更加难以理解。这将导致责任判定变得更加复杂，需要更加完善的法律和标准来规范。

随着人工智能逐渐具备一定的自主性和学习能力，其行为的不可预测性也会增加。这就要求我们在判定可归责性时，不能仅仅依赖于传统的责任判定方法，而需要引入新的技术和理念。例如，通过建立人工智能的行为监测和评估机制，实时记录和分析其运行过程，以便在出现问题时能够准确地确定责任。

此外，国际间的合作也将变得更加重要。由于人工智能的发展是全球性的，不同国家和地区的法律和标准存在差异，这可能会导致责任判定的混乱。因此，需要加强国际间的交流与合作，制定统一的法律和标准，以确保人工智能的健康发展和责任的合理判定。

综上所述，人工智能的可归责性是一个复杂且具有挑战性的问题。它涉及到法律、技术、社会等多个方面的因素。我们需要不断地探索和研究，以适应人工智能技术的发展，确保在保障公众利益的同时，促进人工智能的创新和应用。