15、医疗领域以人为本的人工智能良好治理策略

医疗领域以人为本的人工智能良好治理策略

医疗AI的现状与问题

医疗领域中人工智能（AI）的应用日益广泛，美国食品药品监督管理局（USFDA）有一份经过验证和批准作为医疗设备的AI产品公开列表。然而，AI工具在投入使用前应提供的有效性证据的确切水平仍存在争议，甚至一些用于医疗设备或构成医疗设备一部分的AI工具在某些情况下可能会避开当前的监管审查。非设备类AI的验证可能需要在其他地方进行，比如护理环境中。

健康相关AI的使用也引发了严重担忧。例如，医疗AI可能产生歧视性影响，当AI基于有问题、不具代表性的数据进行训练或使用有偏差的代理变量时就会出现这种情况。其他担忧还包括侵犯隐私（AI工具会处理大量个人健康信息）、医疗关系的非人性化、与其他医疗优先事项相比AI技术的成本，以及环境影响（AI消耗大量能源）。

以人为本的健康相关AI与以人为本的设计

虽然关于医疗领域以人为本的AI（HCAI）含义的文献有限，但普遍认为HCAI应有利于满足医疗用户需求或利益的AI发展，有时这是以规范目标来表述的。另一个常见观点是，AI与人类的交互应有助于提高人类绩效。例如，Shneiderman强调HCAI中“人类价值观如权利、正义和尊严的首要地位”。这些定义与该术语更技术性的用法看似脱节，但实际上密切相关。英国医疗和保健监管机构（MHRA）的一份监管文件指出，“以人为本”指的是“以人为本的设计”概念，即通过关注用户、他们的需求和要求，应用人类因素/工效学以及可用性知识和技术，使系统可用且有用的交互系统方法。

从“可用性”角度来看，健康相关AI学者认为HCAI可能需要许多其他特征，包括“人在回路”、透明度或可解释性，以及值得信赖的AI特征，如隐私保护、数据治理规范