57、欧盟人工智能法案中通用和高风险人工智能系统的义务解析

欧盟人工智能法案中通用和高风险人工智能系统的义务解析

1. 通用人工智能系统概述

通用人工智能系统是能够执行多种通用功能的人工智能系统，如图像和语音识别、音频和视频生成、模式检测、问答、翻译等。它可以在多个不同的情境中使用，并集成到其他多个人工智能系统中。

在2021年11月29日的理事会妥协文本中，最初将通用人工智能系统排除在拟议的人工智能法案范围之外，认为其本身的投放市场、投入使用等行为不应触发该法规的任何要求或义务。但到了2022年5月13日的理事会妥协文本，将通用人工智能系统纳入了人工智能法案的范围，尤其是当这些系统用于高风险人工智能场景时，如确定社会福利、大学入学资格或移民算法等。

2. 通用人工智能系统的相关方观点

• NEC公司 ：认为人工智能系统与欧盟新立法框架下的其他产品（如机械、医疗设备或玩具）不同，需要更灵活的法律制度。因为最终用户在使用人工智能系统时有更多的配置灵活性，而制造商或供应商难以明确产品的预期用途。
• SAP公司 ：强调在B2B人工智能的背景下，需要明确最终用户、用户/中介的角色定义，并适当区分不同利益相关者和用户角色的义务。例如，人工智能供应商和将人工智能提供给最终用户的公司应承担不同的义务，就像汽车制造商和汽车使用者在事故中的责任不同一样。同时，需要更细致的角色规范和适当的区分，特别是在算法设计、特定硬件执行或技术重新包装等方面。

3. 通用人工智能系统的提供者义务

如果一个人以自己的名义或商标将市场上可用的通用人工智能系统投放市场、投入使用或用于拟议人工