16、以人类为中心的人工智能在医疗保健和可持续农业中的良好治理策略

以人类为中心的人工智能在医疗保健和可持续农业中的良好治理策略

1. 医疗保健领域以人类为中心的人工智能治理

在医疗保健领域，实现以人类为中心的人工智能（HCAI）需要系统地监测创新的进程和影响，同时具备在特定背景下深入分析技术发展历程的方法能力。终端用户不仅是评估的受众，也是参与者，他们会共同制定规范人工智能应用的指南和政策。

例如，蒙特利尔大学学术健康中心联合60多个合作伙伴创建了“医疗保健领域负责任的人工智能创新原则指南”及其自评表格。这个交互式在线工具为人工智能创新者在创新周期的各个阶段提供支持，指导他们在医院环境中设计负责任的人工智能工具，并通过自评问卷反思自身的流程和实践，从而调整人工智能工具的开发和部署。

监管因素在这一过程中也起着重要作用。监管机构通过政策和干预措施，可以提升组织和参与者实施以用户为中心设计的能力。例如，英国药品和保健品监管局（MHRA）计划推广符合用户中心视角的设计原则。建立从终端用户到监管机构的反馈循环，有助于识别出人机协作团队在哪些方面最为有效。

1.1 医疗保健HCAI的重要结论

聚焦于“促进人类价值观”和“确保人类可用性”的HCAI方法是相互关联的。要实现“以人类为中心”，既需要在规范层面具有可取性，又要在实际应用中促进人类价值观。仅仅依靠监管或专业规范无法融合这些规范和技术需求，随着实际用例凸显出规范和技术方面的益处与挑战，“以人类为中心”的人工智能的定义需要通过监管和临床层面的反思过程不断重新界定。这并不意味着可以免除对医疗相关人工智能的监管责任，相反，以人类为中心的分析为恰当的监管提供了起点。例如，创新的生命周期审查过程是必要的，并且应在每个阶段关注可用性。

2. 可持