35、计算病理学中可解释人工智能的分类探索

计算病理学中可解释人工智能的分类探索

1. AI解决方案的用户界面组件

人类与AI的用户界面可分为两部分：一是支持主要研究问题的交互和可视化功能；二是针对“为什么”这一问题的用户界面和通信功能，即解释组件。通过分析病理学中的现有工作流程，并开发可视化病理学家进行特定诊断过程的方法，以此为定义AI解决方案用户界面组件功能的起点。

除了全切片图像的可视化以及适用于千兆像素图像的交互技术外，以下可视化和交互技术也广为人知：
- 基于像素、感兴趣区域（RoI）的注释和可视化
- 热图、显著性图
- 代表性图块
- 与区域相关的统计值
- 文本输出（使用领域概念）

由于病理学家经过训练能够查看图像并解释图像信息，因此应尽可能将结果和解释以叠加层、热图或显著性图的形式呈现在源图像上。若AI解决方案的结果与全切片图像直接相关，例如通过图像分割，则有一种自然的方式将结果和解释信息结合起来。不同AI解决方案应遵循以下原则：
- 使用相同的视觉语言（符号、颜色代码）来可视化结果和解释信息。
- 解释组件应针对不同利益相关者群体进行优化，这对于想要了解模型内部运作的算法开发人员以及需要根据分析和整体临床性能判断AI解决方案的质量管理人员尤为重要。
- 即使应用相同的可视化方法（热图、显著性图等），也必须根据不同利益相关者群体的需求和先验知识进行仔细调整和优化。

2. 解释的多样性

解释是一种有目的的沟通形式，需要接收者（利益相关者）、关于某个主题的信息、传达信息的方式（模态、表示）以及发生的上下文。一个好的解释应支持接收者所面临任务的目的和目标，这通常通过考虑上下文、接收者的信息