12、高后果人工智能系统的可信认证与独立监督

高后果人工智能系统的可信认证与独立监督

独立监督的重要性与责任界定

在高后果人工智能（HCAI）系统的发展过程中，独立监督是至关重要的治理层面。大型公司、政府机构等在涉足这一新兴领域时，会面临诸多新问题，因此，经过深思熟虑的独立监督审查对于实现获得广泛公众认可的可信系统具有重要价值。

独立监督的关键在于支持人类或组织对其产品和服务承担法律、道德和伦理责任。责任是一个复杂的话题，包括法律责任、专业问责、道德责任和伦理偏见等细微差别。虽然现有法律被认为足以处理HCAI系统相关问题，但明确责任归属仍十分必要。例如，欧盟新技术责任专家委员会强调了明确自主和机器人技术责任的重要性，主张此类技术的运营商应承担责任，并且产品应包含审计跟踪，以便对故障进行追溯分析，从而确定制造商、运营商或维护组织的责任。

在软件领域，设计师、程序员和管理人员大多未获得认证和专业地位，合同中也常包含“免责”条款。然而，HCAI运动再次引发了对算法问责、透明度、符合伦理的设计和专业责任的关注。专业组织虽有道德行为准则，但对不道德行为的处罚较少。当损害发生时，责任分配是一个复杂的法律问题，不过现有法律足以应对，新的先例将有助于澄清问题，如Facebook因AI算法导致的歧视问题被起诉后，采取了相应措施以防止广告歧视。

独立监督的方法

常见的独立监督方法有三种：
1. 规划监督 ：新的HCAI系统或重大升级提案需提前提交审查，以便反馈和讨论能影响计划。这类似于分区委员会审查新建筑提案以确保符合建筑规范，算法影响评估也与之类似，能让利益相关者在实施前讨论计划。严格的规划监督需要后续审查以验证计划是否得到执行。
2.