31、欧盟人工智能监管框架：信任生态系统解析

欧盟人工智能监管框架：信任生态系统解析

1. 高风险人工智能应用的经济运营者与法律要求适用范围

在人工智能系统的生命周期中，涉及众多可能需遵守未来人工智能法律法规的“经济运营者”，主要包括开发者、部署者（使用配备人工智能产品或服务的人），还可能有生产者、经销商、进口商、服务提供商、专业或私人用户等。
- 义务分配原则 ：未来新的人工智能框架所规定的每项义务，应分配给最有能力应对潜在风险的运营者。例如，开发者可能最适合应对开发阶段产生的风险，但由于他们在使用阶段控制风险的能力有限，部署者应承担相关义务。
- 地理适用范围 ：为降低内部市场碎片化风险，欧盟强调需采用统一的人工智能监管方法。所有在欧盟提供人工智能产品或服务的相关经济运营者，无论是否在欧盟设立，都需遵守预期的立法要求。这意味着非欧盟公司若想服务欧盟客户，也必须遵守规定，从而扩大了欧盟在境外的影响力。

2. 合规与执行——合格评定

人工智能白皮书指出，未来人工智能监管框架可能提出的新要求，需在实践中得到遵守，并由国家和欧洲主管当局以及受影响方有效执行。合规可通过事前和事后机制相结合来实现。
- 事前机制 ：包括强制性的合格/安全评估，如测试、检查或认证。
- 事后机制 ：主管国家当局通过合规测试等方式执行评估。虽然白皮书未提及对违规行为的罚款能力，但强调了应为受人工智能系统负面影响的各方提供有效的司法救济。

3. 高风险人工智能的事前合格评定

鉴于所有提议的要求都将适用于“高风险”人工智