17、AI伦理政策与研究进展：全球视角下的审视

AI伦理政策与研究进展：全球视角下的审视

1. AI监管趋势

尽管难以知晓若没有新冠疫情，AI监管机构和举措的自然发展进程会是怎样，但如今AI在各行业的蓬勃应用，使AI监管问题很可能会再度升温。近期劳动力短缺、工资上涨、生产率停滞和供应链问题，甚至可能加速了自动化的长期趋势。有迹象表明，政府已重新将注意力转向AI监管，比如美国联邦机构曾对AI筛选软件可能歧视求职者发出警告。

2. 欧盟通用数据保护条例（GDPR）

2018年5月起在欧洲实施的GDPR，是保护个人信息的重要国际标准和保障措施。在此之前，过去二十多年里数据保护规则零散，自网络兴起后逐步实施，部分规则可追溯到20世纪90年代。如今，科技巨头崛起、数字经济的赢家通吃市场力量以及智能手机和社交媒体的普及，让数据保护形势发生了巨大变化。

GDPR看似侧重于隐私权利而非AI本身，但隐私、数据保护与AI密切相关。现代AI系统，如深度神经网络，对数据需求极大。谷歌、脸书等科技巨头常依赖用户数据开展定向广告和推荐，以推动业务增长和盈利。

2.1 个人数据定义

GDPR核心的个人数据，指能直接或间接识别自然人的信息，包括姓名、位置、标识符等明显信息，也有IP地址等不太明显的信息。即使是“假名化”数据，若能充分识别个人，也会被视为个人数据。此外，GDPR对特定敏感个人数据，如种族、宗教信仰、政治观点等，给予了更高保护。

2.2 适用范围

GDPR虽为欧盟法规，但对在欧盟开展业务的非欧盟公司同样适用。例如，美国企业若收集或使用欧盟公民数据，也需遵守该法规。

2.3 七大原则

GDPR的实施和解释遵循七大原则，这些原则虽非严格规则，但为法规的广泛目的和意图提供了框架。具体如下：
1. 合法性、公正性和透明度 ：个人数据处理应合法、公正且透明。
2. 目的限制 ：数据收集应基于特定、明确和合法目的，且处理方式不得与这些目的冲突，除非获得数据主体同意、基于欧盟或成员国法律或出于公共利益。
3. 数据最小化 ：组织不应过度收集用户个人信息，如在线零售商在用户注册邮件列表时，通常无需收集政治观点。
4. 准确性 ：对于不准确的个人数据，应及时删除或更正。
5. 存储限制 ：个人数据存储时间应限于处理目的所需，不过在符合特定条件下，可用于公共利益、科研或统计目的的长期存储。
6. 完整性和保密性（安全） ：个人数据需防止未经授权或非法处理、意外丢失、破坏或损坏。GDPR未规定具体安全措施，因不同组织需求不同，如银行应比地方读书俱乐部采取更严格的信息保护措施。
7. 问责制 ：组织需记录个人数据处理方式，确保只有必要人员可访问信息，以证明自身遵守法规。员工培训、定期评估数据处理流程也是问责制的一部分，员工超250人的公司还需记录数据收集、处理、存储等相关信息。

以下为七大原则的简要表格：
|原则|内容|
| ---- | ---- |
|合法性、公正性和透明度|个人数据处理合法、公正、透明|
|目的限制|数据收集目的明确合法，处理不冲突|
|数据最小化|不过度收集用户信息|
|准确性|及时处理不准确数据|
|存储限制|按处理目的限制存储时间|
|完整性和保密性（安全）|保护数据防止非法处理和意外损失|
|问责制|记录数据处理，证明遵守法规|

2.4 GDPR的执行

GDPR的效力更多依赖执行而非法律条文本身。起初，人们对其是否有“威慑力”存疑，若罚款无关痛痒，不遵守法规可能只是增加运营成本。目前来看，其执行有一定效果，但也有人认为需更严格以真正遏制不良行为。例如，谷歌因未向用户提供数据使用充分信息和未获数据处理适当同意，被法国国家数据保护委员会罚款超5000万欧元；保加利亚DSK银行因意外泄露客户信息、西甲联赛应用因收集下载者数据也被罚款。在英国，英国航空和万豪酒店曾因违反GDPR收到“意向通知”，万豪最初面临近亿英镑罚款，后减免80%。这表明GDPR不仅针对科技巨头，且作为年轻法规，已促使许多公司在一定程度上遵守其精神。

3. 美国国防授权法案（NDAA）

2022财年的美国国防授权法案（NDAA）包含了《人工智能能力与透明度法案》（AICT）和《军事人工智能法案》（AIM）。其中，AICT与AI伦理直接相关，它落实了国家安全委员会关于人工智能的最终报告建议，旨在国防部、能源部和情报界设立首席数字招聘官，识别数字人才需求并招募人员，同时建议美国国家科学基金会在AI安全和伦理领域设立重点研究方向。

尽管一些媒体和评论员认为该法案与欧盟模式相比还有差距，但它是美国务实AI伦理监管制度的重要开端。不过，2022年NDAA只是起点，未来联邦政府和国防部的AI工作流程还需更具体的操作指令来融入伦理考量。相关评论认为，负责落实该法案的主任应考虑以下三点：
1. 创建AI用例档案库 ：这有助于详细了解联邦政府和国防部内每个AI用例的部署情况。虽然并非所有档案都公开，部分可能需保密许可，但有相应权限的国会议员可借此进行监督，确保法规执行，增加透明度。
2. 协调伦理审查框架 ：现有的不同伦理审查框架虽术语和概念略有差异，但并不矛盾。例如国防部国防创新单位发布的《负责任AI指南》就是一个实用且强大的框架，此外还有欧盟AI伦理指南和世界经济论坛AI政府采购指南等。
3. 制定良好的公众沟通策略 ：鉴于公众对政府和机构的信任度下降，沟通策略应注重透明、明确目标，使用清晰语言，向公民保证其权利不受侵犯，避免被视为“老大哥”式的监控。在当前党派分歧的环境下，建立和维护公众信任与沟通并非易事。

以下为主任应考虑的要素流程图：

graph LR
    A[主任职责] --> B[创建AI用例档案库]
    A --> C[协调伦理审查框架]
    A --> D[制定公众沟通策略]
    B --> E[提供详细用例视图]
    B --> F[便于国会监督]
    C --> G[统一不同框架]
    C --> H[指导用例实施]
    D --> I[增强公众信任]
    D --> J[确保权利保障]

4. AI研究与高等教育

政策、法规和立法对企业影响显著，特别是跨国家的大型市场法规，如欧盟的法规，且影响范围不限于军事领域。当问题提交到监管或立法机构时，中小企业可能已错过有意义的发声时机。因此，企业可关注主要机构跨学科AI中心的研究成果。

许多大学已在AI安全、伦理和政策方面发挥引领作用，其研究成果可能影响立法机构决策。例如，西北大学与保险商实验室合作成立的AI安全与公平研究中心（CASMI），旨在推动将安全融入AI设计和开发的研究；斯坦福大学2019年初成立的以人为本的AI研究所（HAI），致力于开发增强人类生产力和生活质量的AI；纽约大学的AI Now研究所，由Kate Crawford和Meredith Whittaker于2017年创立，通过与多机构合作，开展跨学科研究，揭示AI的社会影响。此外，英国的伦理AI与机器学习研究所等国际研究中心也在相关领域开展着深入研究。

总之，从全球范围来看，AI伦理政策在不断发展和完善，研究机构也在积极探索，企业和社会各界需密切关注这些动态，以适应AI时代的发展需求。

5. 全球AI伦理研究中心的影响力与意义

这些分布在全球各地的AI伦理研究中心，正以各自独特的方式推动着AI伦理领域的发展，对社会、企业和学术研究都产生了深远的影响。

5.1 社会层面

在社会层面，这些研究中心有助于提升公众对AI伦理问题的认知和理解。例如，纽约大学的AI Now研究所通过开展跨学科研究，将AI的社会影响以通俗易懂的方式呈现给大众，让更多人意识到AI在就业、隐私、公平等方面可能带来的挑战。这不仅增强了公众的参与感，也促使社会更加关注AI伦理问题，形成一种积极的舆论氛围，推动政府和企业更加重视AI伦理的实践。

以下是社会层面影响的简要列表：
- 提升公众对AI伦理问题的认知
- 增强公众参与感
- 推动社会舆论关注AI伦理
- 促使政府和企业重视AI伦理实践

5.2 企业层面

对于企业来说，这些研究中心提供了宝贵的指导和参考。像斯坦福大学的HAI致力于开发增强人类生产力和生活质量的AI，其研究成果可以帮助企业在AI产品和服务的设计中更好地融入伦理考量，避免因伦理问题引发的法律风险和声誉损失。同时，研究中心的存在也为企业提供了一个交流和合作的平台，促进企业之间在AI伦理方面的经验分享和共同进步。

企业层面影响的表格如下：
|影响|具体内容|
| ---- | ---- |
|提供指导参考|帮助企业在AI设计中融入伦理考量|
|降低风险|避免法律风险和声誉损失|
|促进交流合作|提供交流平台，分享经验|

5.3 学术层面

在学术层面，这些研究中心汇聚了不同领域的专家和学者，促进了跨学科研究的发展。例如，西北大学的CASMI将安全融入AI设计和开发的研究，需要计算机科学、工程学、伦理学等多个学科的知识和技能。这种跨学科的研究模式不仅拓宽了学术研究的视野，也为解决复杂的AI伦理问题提供了更全面的方法和思路。

学术层面影响的流程图如下：

graph LR
    A[学术层面影响] --> B[汇聚多领域专家]
    A --> C[促进跨学科研究]
    B --> D[融合多学科知识]
    C --> E[拓宽研究视野]
    C --> F[提供全面解决思路]

6. AI伦理面临的挑战与未来展望

尽管全球在AI伦理政策和研究方面取得了一定的进展，但仍然面临着诸多挑战，未来也需要进一步的努力和探索。

6.1 挑战

• 技术复杂性 ：AI技术发展迅速，新的算法和应用不断涌现，使得伦理监管难以跟上技术的步伐。例如，一些复杂的深度学习模型可能产生难以解释的决策结果，给伦理审查带来了困难。
• 国际协调难题 ：不同国家和地区的文化、法律和政策差异较大，在AI伦理标准的制定和执行上难以达成一致。这可能导致跨国企业在不同地区面临不同的伦理要求，增加了合规成本。
• 公众信任缺失 ：近年来，一些AI应用引发的隐私泄露、算法歧视等问题，导致公众对AI的信任度下降。如何重建公众对AI的信任，是推动AI健康发展的关键。

以下为挑战的简要表格：
|挑战|内容|
| ---- | ---- |
|技术复杂性|新算法和应用难监管|
|国际协调难题|不同地区标准难统一|
|公众信任缺失|隐私和歧视问题影响信任|

6.2 未来展望

• 加强国际合作 ：各国应加强在AI伦理领域的合作，共同制定国际通用的伦理标准和规范，减少跨国企业的合规成本，促进AI的全球健康发展。
• 推动技术创新 ：通过技术创新来解决AI伦理问题，例如开发可解释的AI算法，提高AI决策的透明度和可理解性。
• 强化公众教育 ：加强对公众的AI伦理教育，提高公众的认知和参与度，让公众能够更好地理解和监督AI的发展。

未来展望的列表如下：
- 加强国际合作，制定通用标准
- 推动技术创新，解决伦理问题
- 强化公众教育，提高认知和参与度

总之，AI伦理是一个复杂而重要的领域，需要政府、企业、研究机构和公众的共同努力。通过不断完善政策法规、加强研究和教育、推动国际合作，我们有望在AI时代实现技术与伦理的平衡，让AI更好地造福人类。