22、实现可信人工智能：关键伦理要求与实施方法

实现可信人工智能：关键伦理要求与实施方法

1. 问责制在可信人工智能中的重要性

问责制与公平性和可解释性原则紧密相连，它是实现可信人工智能的七大关键伦理要求之一，能够促进并补充其他六项要求。问责制强调对人工智能系统决策过程进行解释和追责的必要性。当人工智能系统造成损害时，必须能够提供令人满意的解释，并且该解释应能接受相关权威机构的审查。

同时，明确在人工智能系统出现故障时谁应承担责任至关重要。所有与人工智能相关的利益相关者都应对系统的正常运行负责，并为错误或不准确的结果承担责任。这就要求建立相应机制，确保在人工智能系统的开发、部署和使用前后，对系统及其结果都能实现责任落实和问责。

1.1 可审计性的关键作用

人工智能系统的可审计性，即对算法、数据和设计过程进行评估的能力，是问责制的关键。内部和外部审计人员对人工智能系统的评估以及评估报告的可用性，能显著提升技术的可信度。

不同的人工智能应用对问责制的要求程度不同。例如，推荐不适合阅读的书籍的人工智能应用，与误诊癌症的应用相比，其对基本权利的影响较小，因此监管要求相对较低。而对于可能对基本权利产生潜在不利影响的人工智能系统，则应采用更高的可审计性标准。为此，应建立有效的机制，确保进行外部审计，特别是针对那些可能影响基本权利的安全关键应用。

1.2 负面影响报告与评估

人工智能系统应随时提供其潜在负面影响的报告，包括为举报人提供渠道。同时，应进行影响评估，评估的范围要与系统所带来的风险程度相称。通过这种方式，可以降低人工智能系统的负面影响。

1.3 伦理要求的权衡与决策

在实施关键伦理要求时，可能会出现要