14、可解释算法：解锁人工智能信任与决策的关键

可解释算法：解锁人工智能信任与决策的关键

1. 人工智能可解释性的认知响应

可解释算法因能支持用户做出更好决策并建立用户对系统的信任，正受到越来越多的关注。相关研究表明，可解释性解释的存在能培养用户对人工智能系统的信任，且用户的信任很大程度上受用于判断算法质量的规范价值观影响。

1.1 可解释人工智能模型

Shin（2021）提出了可解释人工智能模型，该模型包含用户在人工智能可解释性方面的双步认知过程，即非性能属性和性能属性。在这个模型中，可解释性被视为公平、透明和问责原则的前提。该模型展示了用户对算法可解释性的认知水平，以及这些属性对用户态度和价值观的影响。

算法属性指的是读者在遇到算法活动时，通过技术媒介产生的对算法活动的感知，以及对算法和用户交互过程中复杂方式的解读。可解释人工智能模型显示了可解释性在用户与人工智能双步交互流程中的促进和启发作用。算法信息首先从人工智能流向用户对算法程序方面的评估框架，再流向算法的执行方面，这是一个从外围到核心的评估算法特征并决定是否继续使用人工智能的过程。

1.2 可解释性的作用机制

算法可解释性用于触发用户确定其对人工智能服务的价值观和态度的启发式方法。研究发现，构建解释方式可以影响人们通过人工智能聊天机器人感知和阅读新闻的方式。解释性线索可以通过引发和维持积极的用户启发式方法，触发积极和有说服力的反应。信任在这两个步骤之间起到中介作用，将可解释性与用户对质量的评估联系起来。

用户在辨别人工智能的信任和质量以及确定其行为意图时，将可解释性作为一种信息线索方法。可解释性帮助用户理解非功能性算法质量，进而促使用户评估功能性算法性能并促进解释。用户在与人工智