50、高风险人工智能系统的法规要求与行业应对

高风险人工智能系统的法规要求与行业应对

近年来，人工智能技术发展迅猛，高风险人工智能系统的应用也日益广泛。为了确保这些系统的安全性和合规性，相关法规的制定变得尤为重要。本文将探讨高风险人工智能系统在数据获取、技术文档等方面的法规要求，以及行业对此的反应和应对措施。

1. 数据获取与责任分配

在高风险人工智能系统的开发过程中，数据的获取是一个关键问题。有时，提供商可能无法获取开发所需的数据集，例如当数据集由用户独家持有时，提供商仅为用户提供开发人工智能系统的工具和技术。在这种情况下，若提供商无法履行拟议人工智能法案中规定的数据集质量义务，根据提供商与用户之间的合同，这些义务应由用户承担。

例如，欧洲议会的IMCO和LIBE联合委员会指出：“若提供商因无法获取数据且数据由用户独家持有而无法履行本条规定的义务，根据合同，用户可对本条的任何侵权行为负责。”这一规定明确了在数据获取方面，不同主体的责任分配，有助于解决数据持有与使用之间的矛盾。

2. 数据治理要求的重要性

拟议人工智能法案中的第10条关于数据和数据治理的规定至关重要。违反数据治理要求将触发委员会提案中规定的最高级别处罚。行业对此规定反应强烈，认为部分条款可能不成比例或给企业，特别是小型企业带来重大实施难题。

例如，信息技术产业委员会（ITI）指出，拟议人工智能法案第10条列出的一些要求“可能显得不成比例，或者可能给企业，尤其是小型企业带来重大实施问题”。这表明数据治理要求虽然重要，但在实施过程中需要考虑到企业的实际情况。

3. 技术文档的必要性

为了提供高风险人工智能系统的开发和运行信息，便于监督和执法，适当的技术文档是必不可少的。技