8、共享医疗决策中的有意义人类控制

共享医疗决策中的有意义人类控制

1. 引言

人工智能（AI）正蓬勃发展，在医学领域的应用也日益广泛。它能减轻医护人员和行政人员的工作负担，创造更多资源用于其他任务。在某些疾病诊断等领域，AI系统似乎比人类更可靠。然而，使用AI也存在风险，不仅在自主使用时，人机协作决策在临床环境中也可能出现问题。医疗专业人员面临新角色，需适应能对决策过程产生重大影响的新工具。

因此，有必要探索这种新交互形式对（患者）自主性、治疗自由和责任理解的影响。这正是相关研究项目所关注的，通过实证观察和伦理、法律分析，探讨如何设计交互以应对责任缺失或模糊的问题，这就涉及到有意义人类控制（MHC）的概念。

2. 事实情况与实证基础

2.1 AI在医疗领域的（潜在）应用

AI系统能以多种方式支持医疗人员：
- 减轻工作负担，释放资源用于其他任务，如AI控制的病床可帮助老年人早期活动或进行体育锻炼。
- 用于疾病诊断，如移动健康应用可对疾病进行初步评估，糖尿病患者可将胰岛素治疗几乎完全委托给AI系统。
- 人工神经网络能可靠区分健康人和糖尿病视网膜病变患者的眼底图像，还可识别复杂肿瘤结构并推荐个性化治疗方案。
- 在手术室，泌尿外科和妇科的微创手术也有AI系统辅助。

目前，临床决策大多仍由人类做出，但随着AI系统的使用增加，未来决策过程将更多地由人机协作完成，协作方式的设计对MHC至关重要。

2.2 vALID项目实验

vALID项目研究AI在医学中的应用，通过两种不同实验设置，分析AI如何支持医疗人员决策或在某些情况下作为全自动系统运行。除技术方面，项目还通过调查