15、欧洲政府人工智能倡议的公共价值驱动分析

欧洲政府人工智能倡议的公共价值驱动分析

1. 引言

人工智能（AI）有望给公共部门设计和运营内部流程，以及向企业和公民提供公共服务的方式带来颠覆性变革。这些变革涵盖了从主动提供服务到任务自动化和工作模式改变等多个方面。虽然一些基于机器学习的数据分析应用已在部分国家存在，并且有多个试点项目正在涌现，但总体而言，公共行政部门近期才开始探索人工智能技术的实施，尚未充分发挥其应用潜力。目前，对于人工智能支持的公共服务交付项目的实际情况，以及它们如何或是否能创造公共价值，还缺乏实证研究。

与私营部门对人工智能的研究相比，公共部门的研究相对滞后。私营部门的研究更为广泛和深入，但直接将私营部门的方法和实践应用于公共部门来理解人工智能的使用并不合适。公共部门有着独特的运营环境，公共服务和政策不仅应基于经济价值，如利润，还应基于民主和社会价值，如法治。公共部门的创新与私营部门不同，这是由其特定的文化、目标和限制因素决定的，因此私营部门的研究成果不能直接应用于公共部门。

当前，关于政府使用人工智能的研究正在增加，但对于如何评估人工智能在政府中的影响，以及在采用和部署后会产生哪些具体影响，仍缺乏清晰的认识。虽然有很多关于人工智能在政府中理论影响的研究，但将其与实际部署情况紧密联系起来的研究却很有限。因此，有必要评估欧洲公共行政部门现有的人工智能用例旨在创造哪些公共价值。

2. 文献综述

2.1 公共部门中的人工智能

学术界和从业者都认为，在政府中使用人工智能技术和应用程序能够显著改善政府任务和流程。人工智能通常被理解为能够感知环境并采取行动完成任务的信息通信技术系统，这些任务通常需要一定形式的人类智能或理性。在公共部门，已经出现了各种人工智能应用，包括协助政策制定、直接提供公共服务、管理公共行政部门的内部流程以及公共采购等。

与公共行政部门使用的其他信息通信技术相比，人工智能对公民的影响更大，因为它直接支持影响公民的决策，并且可能部署在原本需要人类专业知识的政府组织核心职能中。然而，越来越多的研究警告称，在公共部门使用人工智能可能会带来负面影响。如果使用不当，存在使用有偏差的数据进行自动化决策从而加剧社会歧视、使决策更加不透明以及通过大规模数据收集侵犯公民隐私等风险。此外，人工智能决策可能导致控制权的丧失，以及管理复杂人工智能操作的能力不足，这可能会破坏公共部门与公民之间的信任关系，甚至完全排除公民参与。

在这个新兴领域，对于采用这组新技术在创造公共价值方面的影响，我们缺乏实证研究。一般来说，可以假设公共行政部门实施人工智能将遵循政策文件中规定的总体战略目标和理念。研究发现，人工智能在公共部门常被描述为提高效率和有效性的推动者，但通常不被视为提高公民参与度的手段。了解驱动公共部门部署人工智能的价值观，有助于预测人工智能可能产生的影响，特别是在社会服务和护理等领域，人工智能具有巨大的应用潜力，可以提升社会价值和公民福祉。

2.2 人工智能使用中的公共价值

与其他公共部门创新类似，人工智能通常被认为具有价值，因为它具有创新性、动态性，能够改变服务交付的现状，或者被普遍认为是政府技术应用的下一个浪潮。然而，新技术对组织、利益相关者或整个社会的具体影响往往并不明确。

这种关于人工智能价值的讨论类似于早期关于电子政务倡议的目的和目标的讨论。公共价值通常与某些关于技术如何改善政府职能的假设相关联，这些假设与技术框架密切相关。技术框架可以为预期的应用和部署后果提供强大的认知结构，例如将技术主要视为自动化工具会改变电子政务倡议的认知、范围和目标。

公共价值通常被定义为公共管理者通过行动为社会提供的额外价值，类似于公司资产的股东价值。虽然电子政务研究和从业者试图借鉴私营部门信息通信技术的经验和实践，但公共组织应创造超越市场相关目标的公共价值。学者们基于相关定义创建了公共价值的理论框架，其中包含了大量潜在的可区分的“价值维度”，但其中大多数价值尚未经过实证检验。为了实现公共价值的创造，公共行政部门需要实施人工智能技术，改变公共服务的运营和战略，以提高公民满意度。

公共行政文献区分了公共价值和公共价值观。公共价值本身是指公共行政部门战略活动带来的有益成果，这些成果可以是多样且具体的，对于分析特定人工智能倡议的成功和目标非常有用。人工智能或任何信息通信技术的部署都会对公共价值观产生影响，包括透明度、平等、诚信和人际连通性等。公共价值观则是指导和证明个人、政府和社会行为的规范性原则，它们更广泛，超越了具体行动和产出。

为了理解公共行政部门使用人工智能可能遵循的价值观，我们参考了Rose等人（2015）确定的四种价值立场，将公共行政文献中的主要价值传统与政府中技术的益处假设相结合。
- 专业主义价值理想 ：源于韦伯提出的传统官僚价值观，决策基于法律和政策，决策者依据可靠信息做出决策。其关键价值包括政府通过确保强大、有弹性和称职的公共服务以及准确的公共记录来持久行动，关注公平，确保公务员诚实、公正和无偏见，以及合法性和问责制，使决策遵循指挥链并得到妥善记录。技术可以通过更好地识别公民、提高数据安全性、确保更多问责制和治理，以及支持标准化行政程序来支持这些价值。然而，人工智能系统的不可解释性及其在工作流程中的不明确角色可能导致官僚机构的形式化程度降低，并且使用人工智能可能会因历史数据集的偏差或对特定人群的不成比例针对而加剧不平等。
- 效率理想 ：新公共管理强调在公共部门引入私营部门价值观和市场机制，挑战了传统官僚价值观。经济价值关注公共行政部门提供公共服务的效率和效果指标，以及是否实现了这些目标。效率理想的典型目标包括实现物有所值、降低成本以及提高生产力和绩效。效率价值观在电子政务叙事和倡议中一直处于前沿，在人工智能应用中也常被强调。人工智能的主要好处之一是能够自动化或加速任务，这与效率理想密切相关。在讨论中，人工智能的主要好处通常集中在通过自动化任务或决策减少人员数量。
- 服务理想 ：过度关注经济价值可能会损害法治和政府的问责制，限制关键的官僚价值观。政府官员应寻求和实施公共价值，确保公务员不仅遵循政策决策或追求最有效率的选择，还应致力于公共利益，尊重公民个体，满足他们的期望或达成共识。当公民能够获得应有的服务，并且不会因对行政素养的过高期望或不合理的行政负担而被拒绝时，就产生了公民价值。技术在政府中的作用进一步体现在提高服务的可用性、可访问性和易用性方面，与传统的线下公共服务交付相比，人工智能可以进一步提高服务质量，特别是在信息提供方面。例如，聊天机器人可以为公民提供更准确和相关的信息。然而，使用人工智能也可能限制实现公民价值的可能性，因为服务交付可能由数据点而非个人决定，从而限制了人类的响应能力和反应能力。此外，公民在人工智能系统的设计和开发过程中往往被排除在外，或者只在系统测试中发挥边际作用。
- 参与理想 ：参与理想建立在强调与公民合作的基础上，进一步强调通过共同生产和公民赋权来服务公众。在这种观点下，政府应像民主制度一样运作，支持透明度、包容性参与、民主参与、审议和公民权利的行动符合参与理想。许多电子参与和电子民主倡议旨在加强公民参与政策制定，可以被视为以参与理想为驱动。然而，需要强调的是，技术的预期潜在效果（即预期的公共价值）与实际效果和公共价值的实现之间存在差异。很多时候，人们只考虑技术的潜在好处，假设它们会必然实现，但实际上政府使用技术并不一定能带来价值，而是技术推动的变革才能产生价值。由于许多人工智能项目仍处于起步阶段，评估已实现的公共价值具有挑战性，但可以评估预期和潜在的公共价值。当公共价值观未得到实现，或者某些公共价值观在人工智能中过度或不足体现时，可能会导致公共价值创造的失败。在公共部门人工智能倡议的设计考虑和目标中，可能会出现多种公共价值无法同时满足的冲突情况。了解当前欧洲公共行政部门人工智能倡议的主要公共价值驱动因素，可以洞察公共行政部门引入人工智能的主要动机，以及可能出现紧张关系的地方。

3. 研究设计

3.1 数据收集

本研究采用混合方法研究设计，对2019年至2022年间联合研究中心在公共部门人工智能观察研究活动中收集的人工智能用例进行二次数据分析。这个人工智能用例清单（N = 686）是通过多种数据收集方式得到的，旨在填补公共部门人工智能使用结构化信息的空白。
- 桌面研究 ：通过互联网搜索有关公共部门使用人工智能的新闻文章、政策文件和从业者生成的报告，包括欧盟人工智能联盟平台上的相关内容。同时，还搜索了多个政府创新网站或专门的人工智能登记册，以尽可能多地识别用例。
- 国家代表提交 ：欧盟国家代表通过电子邮件或在人工智能观察研究小组组织的四个研讨会上分享，将本国的案例添加到人工智能观察数据库中。
- 调查 ：作为人工智能观察研究的一部分，进行了一项调查，以获取更多关于人工智能采用障碍的信息，同时也收集了一些额外的用例并添加到清单中。

每个用例都经过了验证程序，以确保信息的准确性和最新性。然而，这个清单存在一些局限性。数据收集方式可能存在针对性偏差，因为主要依赖欧盟成员国的自我报告，很可能许多倡议未被包括在内，特别是地方或市政层面的倡议，研究团队更难识别。此外，研究团队可能存在语言障碍，对各国政策文件的评估深度和广度可能受到限制。不同行政部门对人工智能的定义和理解也存在差异，这可能导致一些符合条件的用例未被纳入清单。在收集有关人工智能实施的成熟度和当地参与者的可靠信息时也存在挑战。最后，清单中的一些倡议可能由于各种原因已经停止。为了本研究的目的，研究团队只选择了与公共服务交付有明确联系的案例，排除了没有公共服务成分或用途的倡议，最终得到549个用于分析的案例。

这个清单涵盖了所有27个欧盟国家，以及英国、挪威、瑞士和乌克兰。但不同国家的用例数量分布不均，荷兰、爱沙尼亚、意大利、葡萄牙、德国、比利时、法国和芬兰的用例较多，而许多其他国家的用例较少，甚至只有1个。平均每个国家有18.3个用例被纳入清单。

3.2 数据分析

研究团队根据清单中每个用例的标题和描述，评估是否存在（隐含或明确）期望该人工智能用例增加或受专业主义、效率、服务或参与价值驱动的情况，遵循文献综述中强调的四种主要公共价值类型。在编码过程中发现，单个人工智能用例可能受一种或多种公共价值驱动，因此分析不限于最普遍的公共价值类型。每个用例都经过了研究团队成员的讨论，以确保编码的准确性和可靠性。

例如，爱沙尼亚议会的一个用于准备逐字报告的系统，该系统通过语音识别帮助转录议会演讲，提高了转录效率和准确性，并计划提供机器可读的开放数据。这个用例同时受到专业主义价值、效率价值和参与价值的驱动。

除了主题编码，研究团队还确定了几个说明性案例，以举例说明不同价值类别。这些案例从清单中选取，旨在突出人工智能技术可能创造的公共价值，以及这些价值在实践中可能面临的挑战。

名称	描述	价值驱动因素
EE议会 - 逐字报告准备系统	语音识别系统帮助转录爱沙尼亚议会（Riigikogu）讲台上的演讲。Riigikogu的总理府目前需要在会议结束后一小时内发布逐字报告，这需要大量人力，负担落在速记员身上。通过部署语音识别，将提高会议转录的效率和准确性。此外，计划开始提供逐字记录作为机器可读的开放数据，以便其他系统也能自由使用这些数据。	专业主义价值、效率价值、参与价值

下面是数据收集和分析的流程图：

graph LR
    A[数据收集] --> B[桌面研究]
    A --> C[国家代表提交]
    A --> D[调查]
    B --> E[用例验证]
    C --> E
    D --> E
    E --> F[筛选有公共服务联系的用例]
    F --> G[数据分析]
    G --> H[主题编码]
    G --> I[选取说明性案例]

4. 研究结果

本部分将概述主要研究结果，包括由专业主义、效率、服务和参与公共价值驱动的编码倡议，并描述从人工智能观察清单中选取的用例以补充编码。同时，将讨论人工智能系统的一些预期目的如何可能导致公共价值的破坏。

4.1 专业主义价值驱动的用例

在分析的549个案例中，有70个支持专业主义价值。许多用例旨在加强公共行政部门的数据质量，例如丹麦商业管理局识别和消除商业报表中的错误，瑞士联邦统计局使用机器学习算法提高数据质量。一些人工智能系统被部署以确保公共服务交付更加公平，如比利时的一个系统用于决定儿童在学校系统中的注册，该系统基于多个因素，比亲自注册更公平。还有一些用例旨在强化现有规则，如使用卫星图像检查农民对补贴要求的合规性，或使用计算机识别技术规范疫苗接种注册流程。此外，一些用例旨在促进公务员队伍的专业化，如法国跨部门信息技术服务中心部署的聊天机器人RenoiRH，为员工提供有关流动性和职业发展的信息。最后，一些用例旨在加强公共行政部门的弹性，特别是网络安全，如挪威国家安全局的传感器技术用于检测网络攻击。

4.2 效率价值驱动的用例

在所有案例中，有431个人工智能应用体现了某种形式的效率驱动价值。这表明在许多已识别和描述的人工智能用例中，预期的效率提升非常普遍，与之前通过数字技术提高公共行政效率的主导观点一致。公共行政部门试图利用人工智能创造经济价值，通过各种人工智能技术自动化任务或决策来降低成本。例如，拉脱维亚部署的聊天机器人UNA接管了公务员的一些日常和冗余任务，使公务员能够有更多时间处理更有价值的请求，从而重新组织内部工作流程。还有一些案例建议自动处理公民申请，如瑞典特雷勒堡市的情况。此外，一些案例强调利用更多数据使现有政策选项更有效，或通过减少欺诈风险来避免公共资源的不当分配。

4.3 服务价值驱动的用例

有132个用例与服务公共价值相关。在许多这些用例中，当行政流程为公民简化，减少他们的等待时间或填写表格的困难时，预期会产生服务价值。这与技术作为政府组织服务推动者的角色一致，延续了电子政务通过向公民提供服务来创造公共价值的传统。聊天机器人或其他形式的虚拟助手被视为改善公共信息可访问性或提高各种行政流程可理解性的主要人工智能技术。例如，爱尔兰税务局使用的语音机器人为公民提供更高效和有效的电话服务，斯洛伐克金融管理局使用的Taxana促进了与公民的沟通。

需要注意的是，虽然强调提高公民服务质量，但许多人工智能系统的引入不仅是为了使服务对公民更易访问或更方便，也是为了减轻行政人员的工作量。在一些情况下，聊天机器人似乎是为了纯粹的质量改进而引入，但在其他一些情况下，人工智能系统的主要目标是自动化或减轻公务员的工作负担，这凸显了即使在旨在提高公民服务质量的人工智能系统中，效率价值也非常普遍。其他旨在实现服务相关公共价值的用例范围广泛，包括使现有公共服务更易于访问，特别是对残疾人，如芬兰税务局在公共和内部视频上启用自动字幕，佛兰德残疾人机构为聋人提供基于人工智能的口译服务，爱沙尼亚官方公报提供英语自动翻译服务以支持外国企业，或法国的一个人工智能系统为工匠提供基于给定地点的成功机会建议。

4.4 参与价值驱动的用例

在公共行政部门中，通过增强审议、参与和其他与公民参与相关的目标来更好地与公民联系的人工智能使用非常少见。只有少数案例将人工智能与参与公共价值联系起来，在549个案例中只有19个。例如，都柏林的人工智能系统The Dublin Beat分析公民意见，提供他们最紧迫问题的概述。该工具结合了自然语言处理和机器学习，对公民的非结构化推文进行分类，提供关于人们对环境问题、文化活动或城市区域发展的看法的关键问题概述。另一个例子是爱沙尼亚议会的语音识别系统HANS，它能够转录议会会议，不仅提高了速记员的工作效率，还与增强爱沙尼亚民主制度的透明度密切相关。转录内容计划以机器可读的开放数据格式发布，以便进行额外的数据分析或在其他信息系统中使用。

价值类型	用例数量	举例
专业主义价值	70	丹麦商业管理局识别商业报表错误、瑞士联邦统计局提高数据质量等
效率价值	431	拉脱维亚聊天机器人UNA、瑞典特雷勒堡市自动处理公民申请等
服务价值	132	爱尔兰税务局语音机器人、芬兰税务局自动字幕等
参与价值	19	都柏林The Dublin Beat、爱沙尼亚议会HANS系统等

4.5 公共价值破坏的风险

尽管公共部门的各种人工智能用例有积极的公共价值驱动因素，但仍存在一些关键问题需要考虑，这些问题可能源于人工智能倡议目标之间的紧张关系，或部署基于人工智能的公共部门创新带来的潜在风险。
- 效率目标主导的风险 ：许多人工智能倡议过于强调支持效率相关目标。正如之前电子政务的研究所示，效率价值不仅主导了公共部门数字化的预期收益，而且当与其他重要公共价值发生冲突或紧张关系时，公共管理者往往更重视效率相关价值。过度强调降低成本或提高效率可能导致非法的数据收集行为、对公民缺乏响应能力，以及无法确保人工智能系统按预期运行。此外，将人工智能技术视为通过自动化降低成本的快速解决方案，可能会忽视数字转型需要多个利益相关者参与的更广泛图景，或者忽略使人工智能系统完全运行所需的额外成本。一些用例意识到了这些风险，如阿姆斯特丹市用于追踪非法出租房屋的人工智能系统，该市已经意识到可能对公共价值造成破坏的风险，因此在算法中不包括个人数据，以避免对特定人群的偏见或增加隐私担忧。
- 服务创新过度乐观的风险 ：虽然聊天机器人和其他人工智能工具可能确实支持向公民提供信息，但公民是否愿意与聊天机器人交流，以及在哪些场景下愿意交流，仍是一个问题。特别是当引入新的人工智能技术旨在减轻或自动化员工任务时，聊天机器人的性能可能因组织内部资源的不同而有很大差异。此外，新技术创新是否能立即解决公民不愿意使用电子服务的问题，如对政府缺乏信任，也存在疑问。
- 公民参与不足的风险 ：尽管有潜力和兴趣使用智能技术促进公民参与公共部门决策过程，但对人工智能用例的分析表明，公共行政部门部署的人工智能并不一定旨在改善公民参与和参与度。虽然人工智能系统的意图可能是使公共行政部门更能响应和接受公民需求，但实际上公民并没有真正参与政策过程，只是他们的在线数据被被动使用，而且往往没有额外的解释和他们的知情同意。
- 目标不明确的风险 ：在一些情况下，公共价值没有明确提及，倡议的潜在目标可能是自我参照的，数据分析或系统开发本身成为目标，期望“某些东西”会从中产生，并为进一步的研究或政策行动提供模式和指示，这是为了创新而创新。例如，一些人工智能用例旨在创建可以进行基于人工智能分析的仪表板，但往往不清楚这些仪表板如何与实际组织工作流程相关联，如何改变组织的工作，或者仪表板旨在支持哪些目标。当人工智能系统的开发完全外包给私人组织时，这种风险会加剧，因为不清楚公共组织的贡献是什么，或者它们在系统投入使用时是否在公共价值创造中发挥积极作用。公共行政部门可能只是作为资金提供者或合作伙伴，而不是积极参与使用这些开发的系统。

下面是公共价值破坏风险的流程图：

graph LR
    A[效率目标主导] --> B[非法数据收集]
    A --> C[对公民缺乏响应]
    A --> D[忽略转型成本]
    E[服务创新过度乐观] --> F[公民交流意愿问题]
    E --> G[聊天机器人性能差异]
    E --> H[无法解决信任问题]
    I[公民参与不足] --> J[公民未真正参与政策过程]
    K[目标不明确] --> L[与工作流程脱节]
    K --> M[公共组织作用不明]

5. 总结与展望

研究结果显示，欧盟成员国之间人工智能的使用存在高度异质性，对实际创造的公共价值的理解仍不清晰。尽管人工智能有强大的潜力来改变公共服务并使其更以公民为导向，但公共行政部门主要将人工智能技术用于创造经济价值。人工智能系统虽然可能有助于提高更高层次的公共价值，如包容性和用户满意度，但很少直接让公民参与其设计或实施。

人工智能技术承诺的创造公共价值的变革潜力与实际观察到的采用和使用之间存在差距。目前的倡议在很大程度上关注通过创造经济和行政价值来提高绩效（效率和效果），而对公民和社会价值的直接关注较少。当这些价值存在时，它们往往受到其他维度和价值驱动因素的更大影响，如开放性、透明度、信任、合法性、包容性和多样性。

未来的研究需要通过深入的案例研究进一步探索这些分析维度，并进一步实证应用所提出的框架。特别应关注在地方和市政层面实施的人工智能倡议，同时考虑不同部门政策领域相关的不同价值。未来的研究还应进一步完善框架，并从研究结果中推断理论含义。需要一种强大的方法来评估人工智能在公共服务中的社会和经济影响，应基于公共价值视角，在对潜在利益进行分类的同时，考虑风险和可能的负面副作用，如果不进行充分评估和预期，这些副作用可能导致价值破坏。

本研究的分析结果为推进公共部门人工智能创新领域的知识做出了重要贡献。所提出的分析类别和公共价值评估框架适合作为额外比较分析的基础。当前的研究结果为未来评估人工智能在公共服务中的功能使用提供了见解，证实了公共部门对使用人工智能重新设计内部流程、增强政策制定机制和改善公共服务交付的兴趣日益增长，尽管这显然仍是公共部门组织中的新兴实践。为了寻找“最佳实践”，有必要从深入的案例研究中学习，确定需要克服的关键维度和障碍，并在公共部门中转移和复制成功案例，超越“永远在试点”的悖论，该悖论通常限制了人工智能和信息通信技术支持的创新的采用。