14、欧盟公共部门人工智能应用的政策研究议程

欧盟公共部门人工智能应用的政策研究议程

人工智能（AI）作为当今时代的关键技术之一，正深刻改变着我们的日常生活，且这一趋势还将持续。公共部门组织也越来越多地采用基于人工智能的解决方案，以满足内部运营需求和提供公共服务。为支持欧洲公共部门组织采用可靠的人工智能，我们提出一个政策科学研究议程。

公共部门人工智能应用现状

自2019年以来，相关机构一直在密切监测欧洲公共部门对人工智能的采用和使用情况。截至目前，已广泛映射了欧洲各地的686个用例。从这些数据中可以得出以下主要结论：
- 增长趋势 ：自2015年以来，案例数量呈指数级增长，仅2021年就新增了167个案例。
- 实施阶段 ：约38%的案例已实施并投入日常运营，30%处于试点阶段，25%仍在开发中。
- 实施层级 ：超过一半的案例是国家层面发起的，但地方层面也有相当数量的举措。
- 技术应用 ：机器学习（ML）和自然语言处理（NLP）是最广泛使用的两种人工智能技术。
- 应用目标 ：大量案例旨在支持创新公共服务和公众参与，其次是执法、数据分析、监测和监管研究以及内部管理。
- 服务对象 ：近一半的人工智能案例以政府内部行为者为主要服务对象，其余案例中超过一半针对公民或企业。
- 应用效果 ：大多数案例旨在提高行政效率或公共服务质量，而旨在提高政府开放性的案例仍然较少。

总体而言，公共部门对人工智能的采用和使用正在迅速发展，越来越多的案例融入日常运营，表明人工智能正在从实验性技术转变为政府各运营层面广泛使用的成熟技术。

政策背景

欧洲在人工智能政策方面取得了一系列重要进展，以下是一些主要政策及其目标：
| 政策 | 年份 | 主要目标 |
| — | — | — |
| 人工智能合作宣言 | 2018 | 提升欧洲在人工智能领域的技术和产业能力及其应用 |
| 欧盟委员会《欧洲人工智能》通讯 | 2018 | 提出欧洲人工智能总体战略，创造人工智能发展和实施的理想条件 |
| 人工智能开发和使用协调计划 | 2018 [2021年修订] | 提供共享政策合作框架，鼓励成员国制定国家人工智能战略 |
| 人工智能高级专家组（HLEG）建议 | 2019 [第一份报告] | 提出以人为本的人工智能方法，列出要求和建议 |
| 人工智能白皮书 | 2020 | 确定确保人工智能发展可靠、安全并符合欧盟公民价值观和权利的政策选项 |
| 采用人工智能计划 | 2021 | 支持公共部门采购人工智能 |
| 人工智能法案（AI Act） | 2021年提出 - 待批准 | 通过基于风险的方法，促进与人类交互的人工智能系统的透明度和道德合规性 |

此外，还有一些政策影响着公共部门对人工智能的采用，如欧洲数据战略、柏林宣言、斯特拉斯堡宣言等。这些政策共同为公共部门采用人工智能提供了政策支持和监管框架。

公共部门采用和使用人工智能面临的挑战

尽管有政策承诺使用可靠的人工智能，但公共部门在实际实施人工智能时仍面临诸多不确定性。主要挑战可分为以下几类：
1. 社会挑战 ：例如，社会对人工智能的接受度，如对技术的信任或担心因算法错误而失业。
2. 伦理挑战 ：包括遇到歧视或机器诱导的价值判断等问题的风险。
3. 监管挑战 ：与法律或责任问题相关，如隐私或问责制。
4. 技术挑战 ：与技术解决方案的实施困难有关，如数据集成或公共部门员工的技术技能。

此外，还需要考虑资金和激励措施、创新文化程度、政治优先事项带来的压力等因素。同时，算法的可解释性也是确保人工智能可靠性的关键。

综合来看，公共部门组织在采用和使用人工智能方面面临的挑战主要与以下过程相关：
- 创新与实验 ：将人工智能引入公共部门组织，需要考虑创新和实验实践，并遵循特定的指南和规定。
- 实施与整合 ：管理人工智能在公共组织中的实施和整合，包括员工技能培养、组织结构和流程的调整等。
- 政策引导 ：政策在引导公共部门组织部署人工智能方面发挥着重要作用，需要评估现有政策的影响，并为即将出台的政策做好准备。
- 可靠性与以人为本 ：确保人工智能的使用合法、安全，并以人类价值观为中心，避免歧视和不公平使用。

政策研究议程

为应对上述挑战，我们提出一个政策科学研究议程，旨在帮助政策制定者做出基于证据的决策，并支持公共部门组织向使用可靠人工智能的转型。该议程基于两个重大政策科学项目的经验，涵盖了广泛的利益相关者的意见。

总体原则：可靠性和以人为本

人工智能要求我们重新理解人与机器之间的关系。由于人工智能并非绝对可靠，可能会出现算法偏差，因此需要确保基于人工智能的系统值得信任，将人类价值观置于中心，并进行人类监督。可靠性包括合法性、伦理和稳健性三个方面，具体体现为遵守法律法规、遵循伦理原则和价值观以及安全可靠地运行。公共部门尤其需要避免人工智能的歧视和不公平使用，已有一些案例因算法歧视而停止使用。因此，可靠性应作为任何关于公共部门人工智能研究的总体原则。

支柱一：促进创新

人工智能在公共部门是一个创新话题，大多数案例仍处于试点或开发阶段。研究人员应关注创新角度，探索人工智能带来的新可能性以及公共组织如何发现和应用这些可能性。以下是一些相关挑战和研究问题：
| 挑战 | 建议研究问题 |
| — | — |
| 识别和预测欧洲公共部门人工智能使用的趋势和可持续性 | 公共部门人工智能部署的趋势和发展是什么？ |
| 公共部门开发、测试和获取可持续人工智能解决方案 | 公共部门组织如何采购可靠和可持续的人工智能？如何使用沙盒实验来评估人工智能解决方案的影响和可持续性？ |
| 公共部门人工智能创新的合作伙伴关系和联盟 | 如何让包括公共组织内部人员在内的用户参与可靠人工智能解决方案的开发？如何与学术界、研究机构和私营部门合作开发公共部门的可靠人工智能解决方案？ |

研究应全面且细致地考虑各种人工智能技术的应用场景和问题，持续跟踪趋势以发现新的应用可能性。同时，需要解决公共部门在采购人工智能解决方案方面的难题，并探索如何更好地让用户参与和促进跨部门合作。

支柱二：管理与治理

从试点到全面实施人工智能，公共部门需要进行仔细的管理过渡。目前，只有三分之一的案例在公共部门组织中得到全面实施，因此在管理人工智能方面仍缺乏经验。实施人工智能需要对公共部门的结构、流程和程序进行重大调整，并可能引发意想不到的变革。以下是相关挑战和研究问题：
| 挑战 | 建议研究问题 |
| — | — |
| 培养公共部门员工正确开发和使用人工智能解决方案的技能和能力 | 需要哪些技能和能力来开发和使用基于人工智能的解决方案？欧洲公共部门中人工智能技能的现状如何？公共行政部门如何在员工中培养人工智能技能？ |
| 管理组织变革以有效使用人工智能解决方案 | 人工智能如何改变公共组织的任务、角色和结构？公职人员在确保可靠性方面的任务和角色是什么？ |
| 理解人工智能采用引发的公共部门转型 | 人工智能将如何改变公共部门的工作方式和对用户需求的响应？人工智能的采用将如何影响公共行政的多级治理？人工智能的采用将如何影响公私部门之间的关系？ |
| 有效治理数据和流程以实现可靠的人工智能 | 如何从数据收集到使用的整个过程中以道德和可靠的方式治理数据？ |

公共部门员工不仅需要具备技术技能，还需要掌握变革管理、利益相关者沟通等多方面的能力。同时，人工智能的应用可能会改变公共部门的组织结构、多级治理和公私关系，需要深入研究以应对这些变化。此外，数据治理是实现可靠人工智能的关键，涉及数据的可用性、战略管理、保护和所有权等问题。

支柱三：政策与监管

公共部门对人工智能的采用是在特定的政策和监管环境下进行的。研究议程需要关注政策和监管对人工智能采用的影响，并确定调整政策或制定新政策所需的证据。以下是相关研究问题：
| 主题 | 研究问题 |
| — | — |
| 理解监管环境的作用 | 人工智能和其他相关法案及法规将在多大程度上影响公共部门对人工智能的采用？即将出台的人工智能法案将对公共部门采用人工智能产生什么影响？公共部门组织如何评估基于人工智能的解决方案的风险水平？公共行政部门需要制定哪些措施以符合人工智能法案？ |
| 分析国家复苏和韧性计划的作用 | 国家复苏和韧性计划如何支持公共部门采用人工智能？国家计划中报告了哪些相关证据？通过国家复苏和韧性计划投入人工智能采用的预算有什么效果？ |
| 监测战略和政策影响 | 政策如何支持公共部门采用人工智能？政治指令和压力对人工智能采用是否有可衡量的影响？ |
| 算法登记册和其他促进措施 | 政治层面可以推广哪些促进措施来支持可靠的人工智能采用？建立算法登记册如何成为促进透明度的政策，以及应如何实施？ |

新技术往往会超越其所处的监管环境，人工智能尤其如此。即将出台的人工智能法案将对公共部门采用人工智能产生重大影响，不同风险级别的人工智能解决方案需要不同的应对措施。国家复苏和韧性计划对人工智能部署的影响仍有待研究，同时需要监测政策对人工智能采用的支持效果和影响。算法登记册是提高人工智能透明度和信任的有前途的方法，值得进一步研究其实施方式。

研究方法

为了实施上述研究议程，需要采用以下两种跨领域的方法：

用例、实践和示例

随着公共部门人工智能案例的不断增加，需要更高效、结构化地识别这些案例。可以通过对公共采购数据进行结构化分析，识别购买人工智能相关产品或服务的实例。深入研究选定的案例，通过访谈、文件分析等定性方法了解公共部门组织内部与人工智能相关的工作。此外，识别和展示最佳实践案例可以为政策制定者提供参考，帮助他们制定创新议程和相关政策。

指标和大规模评估

目前，尽管对人工智能案例进行了广泛而深入的映射，但仍难以对人工智能的影响进行有意义的评估。因此，需要开发专门的指标来评估人工智能在公共部门的影响，从而促进数据驱动的政策制定。可以结合现有的数字政府和公共部门绩效评估指标体系，如数字经济和社会指数（DESI）、电子政务基准等，并补充与公共部门使用人工智能相关的特定指标，如公共采购人工智能系统和服务的资金投入指标、高风险人工智能系统的使用比例等。

综上所述，这个政策科学研究议程为公共部门采用和使用人工智能提供了一个全面的研究框架，旨在促进研究与政策之间的有效合作，支持公共部门向可靠人工智能的转型。虽然该议程涵盖了当前最重要的问题，但仍需要不断更新和完善，以适应人工智能技术的快速发展和社会需求的变化。我们希望这个议程能够激发研究界的集体努力，为政策制定者提供客观的证据，推动公共部门在人工智能时代的可持续发展。

欧盟公共部门人工智能应用的政策研究议程

研究方法详细阐述

为了更好地实施政策研究议程，上述两种研究方法还需进一步细化操作步骤。

用例、实践和示例

• 数据收集 ：
  1. 建立公共采购数据库，收集所有与人工智能相关的采购信息，包括采购时间、金额、产品或服务类型等。
  2. 与公共部门组织合作，获取内部关于人工智能项目的文档，如项目报告、评估文件等。
• 案例筛选 ：
  1. 根据采购数据和文档，筛选出具有代表性和创新性的人工智能应用案例。
  2. 考虑案例的多样性，包括不同地区、不同部门、不同应用场景的案例。
• 深入研究 ：
  1. 对筛选出的案例进行实地考察，与项目负责人、工作人员和用户进行访谈，了解项目的实施过程、遇到的问题和取得的成效。
  2. 分析项目文档，提取关键信息，如技术方案、管理模式、政策支持等。
• 最佳实践总结 ：
  1. 根据深入研究的结果，总结出成功案例的共同特点和最佳实践方法。
  2. 制定最佳实践案例的评估标准，确保案例的可复制性和推广价值。
• 案例展示与传播 ：
  1. 编写案例报告，详细介绍案例的背景、实施过程、成果和经验教训。
  2. 通过研讨会、培训课程、网站等渠道，向政策制定者、公共部门工作人员和其他利益相关者展示最佳实践案例，促进知识共享和经验交流。

指标和大规模评估

• 指标体系构建 ：
  1. 确定评估人工智能在公共部门影响的关键维度，如效率提升、服务质量改善、创新能力增强等。
  2. 针对每个维度，选择合适的指标进行量化评估，如行政流程处理时间、公众满意度、创新项目数量等。
  3. 结合现有的数字政府和公共部门绩效评估指标体系，确保指标的全面性和可比性。
• 数据收集与整合 ：
  1. 建立数据收集机制，从公共部门组织、相关统计机构和其他数据源获取所需的数据。
  2. 对收集到的数据进行清洗和预处理，确保数据的准确性和一致性。
  3. 将不同来源的数据进行整合，形成统一的数据集，用于后续的分析和评估。
• 大规模评估实施 ：
  1. 运用统计分析方法，对整合后的数据进行分析，评估人工智能在公共部门的影响程度。
  2. 采用对比分析的方法，比较不同地区、不同部门在人工智能应用方面的差异，找出优势和不足。
  3. 结合定性分析方法，如专家访谈、案例研究等，深入了解人工智能应用过程中存在的问题和挑战。
• 评估结果反馈与应用 ：
  1. 将评估结果反馈给政策制定者和公共部门组织，为他们制定政策和决策提供依据。
  2. 根据评估结果，提出针对性的改进建议和措施，促进公共部门人工智能应用的优化和提升。
  3. 定期对评估指标和方法进行调整和完善，以适应人工智能技术的发展和公共部门需求的变化。

未来展望

随着人工智能技术的不断发展和应用，公共部门在采用和使用人工智能方面将面临更多的机遇和挑战。未来，需要进一步加强研究与政策之间的合作，不断完善政策研究议程，以适应新的形势和需求。

• 技术创新方面 ：人工智能技术发展迅速，新的算法、模型和应用不断涌现。未来的研究应关注这些新技术在公共部门的应用潜力和挑战，探索如何将其与公共服务相结合，提高公共服务的质量和效率。例如，研究如何利用人工智能技术实现智能决策、智能监管和智能服务，为公众提供更加便捷、高效的公共服务。
• 社会影响方面 ：人工智能的广泛应用将对社会产生深远的影响，如就业结构调整、社会公平性等。研究需要关注这些社会问题，提出相应的政策建议，以确保人工智能的发展能够促进社会的公平和可持续发展。例如，研究如何通过教育培训和职业转换，帮助受人工智能影响的人群重新就业；如何确保人工智能技术的应用不会加剧社会不平等现象。
• 国际合作方面 ：人工智能是全球性的技术，各国在人工智能的发展和应用方面面临着共同的挑战和机遇。未来应加强国际合作，分享经验和资源，共同应对人工智能带来的挑战。例如，参与国际标准的制定，推动人工智能技术的全球治理；开展跨国合作项目，共同研究和应用人工智能技术，提高公共服务的国际化水平。

总结

这个政策科学研究议程为公共部门采用和使用人工智能提供了一个全面的研究框架，涵盖了从现状分析、政策背景、面临挑战到研究议程和方法的各个方面。通过实施这个议程，可以帮助政策制定者做出基于证据的决策，支持公共部门组织向可靠人工智能的转型。

在实施过程中，需要关注以下几点：
1. 持续更新 ：人工智能技术发展迅速，社会需求也在不断变化。因此，研究议程需要持续更新，以适应新的技术和社会环境。
2. 跨学科合作 ：人工智能涉及多个学科领域，如计算机科学、管理学、社会学等。为了全面研究人工智能在公共部门的应用，需要加强跨学科合作，整合不同学科的知识和方法。
3. 利益相关者参与 ：公共部门人工智能的应用涉及到多个利益相关者，如政策制定者、公共部门工作人员、公民和企业等。在研究和决策过程中，应充分听取他们的意见和建议，确保研究结果和政策措施能够满足各方的需求。

通过以上努力，有望推动公共部门在人工智能时代实现可持续发展，为公众提供更加优质、高效的公共服务。

graph LR
    classDef process fill:#E5F6FF,stroke:#73A6FF,stroke-width:2px

    A(开始):::process --> B(技术创新研究):::process
    A --> C(社会影响研究):::process
    A --> D(国际合作推进):::process

    B --> E(探索新技术应用潜力):::process
    B --> F(结合公共服务提高效率):::process

    C --> G(关注就业结构调整):::process
    C --> H(保障社会公平性):::process

    D --> I(参与国际标准制定):::process
    D --> J(开展跨国合作项目):::process

    E --> K(持续更新研究议程):::process
    F --> K
    G --> K
    H --> K
    I --> K
    J --> K

    K --> L(跨学科合作):::process
    K --> M(利益相关者参与):::process

    L --> N(整合多学科知识方法):::process
    M --> N

    N --> O(推动公共部门可持续发展):::process
    O --> P(结束):::process

关注要点	具体内容
持续更新	适应人工智能技术和社会需求变化，及时调整研究议程
跨学科合作	整合计算机科学、管理学、社会学等多学科知识和方法
利益相关者参与	听取政策制定者、工作人员、公民和企业等各方意见和建议