60、拟议的人工智能法案及后续“妥协”解读

拟议的人工智能法案及后续“妥协”解读

1. 自动生成日志规定

为确保人工智能系统在整个生命周期内的可追溯性，高风险人工智能系统应具备日志记录功能，在系统运行时自动记录事件。欧盟委员会提议，高风险人工智能系统的提供者有义务保存其系统自动生成的日志，保存期限应根据系统的预期用途以及适用的国家和欧盟法律来确定。

理事会的妥协文本对拟议的人工智能法案第20(1)条进行了修订，明确规定提供者必须至少保存自动生成的日志6个月，这与当前行业实践相符。欧洲议会法律事务委员会（JURI）的草案文本也提出了相同的修订，但该委员会弱化了提供者保存日志的义务，指出提供者应在合同安排或法律规定以及实际控制且技术可行的范围内保存日志。

以下是不同主体对日志保存规定的要求对比表格：
|主体|日志保存要求|
| ---- | ---- |
|欧盟委员会|根据系统预期用途和适用法律确定保存期限|
|理事会妥协文本|至少保存6个月|
|欧洲议会JURI委员会|在合同、法律、实际控制且技术可行范围内保存|

2. 高风险人工智能系统各方义务

2.1 与主管部门合作及文件保留

高风险人工智能系统的提供者（及适用情况下的用户）有义务应国家主管部门（及适用情况下的人工智能委员会和欧盟委员会）的要求，提供证明系统符合拟议人工智能法案第8 - 15条要求的所有信息和文件。同时，应国家主管部门（及适用情况下的欧盟委员会）的合理请求，提供者（及适用情况下的用户）有义务让请求方访问自动生成的日志（在提供者控制范围内）。

拟议的人工智能法案中有多项条款要求人工智能提供者提供日志、源代码或训练数据。例如