4、算法体验与算法意识：从用户视角看人工智能发展

算法体验与算法意识：从用户视角看人工智能发展

1. 算法体验：用户与算法交互的关键

在接受算法之前，用户通常会检查算法系统的可靠性和有效性。公平性、问责性、透明度（FAccT）是用户评估和判断人工智能质量的重要线索。研究表明，运用FAccT启发式方法的用户更有可能接受算法系统，因为他们能够理解系统并建立对算法的信任。当用户开始信任系统并进入接受过程时，FAccT会影响他们对系统有用性和便利性的感知，进而影响他们的态度和使用意愿，这是一个持续的交互过程。

1.1 算法体验对以用户为中心的人工智能发展的重要性

算法体验是程序逻辑的结果，涉及一系列算法分析，这些分析从算法自身的学习经验中收集、分析和学习。它不仅由用户构建，还参考了一组算法性能以及数据、界面和数据化等其他参数，这些参数同时有助于构建和从反思性实践中学习。

以用户为中心的人工智能发展中，算法体验变得越来越重要。从满足人类和社会需求的角度创建人工智能，远比推动技术上可行的方案重要得多。算法可以成为强大的决策工具，让人们专注于最擅长的关键任务，而将其他任务交给人工智能。然而，这需要人类对如何采用和融入算法建议、挑战人类和算法中的偏见，以及建立更具算法性、包容性和意识的决策范式有深刻的理解和认识。

1.2 算法接受模型：FAccT对用户意图的双重影响

算法接受模型表明，FAccT对用户在算法系统中的意图有双重影响途径：
- 启发式用户认知发展途径 ：用户通过运用FAccT的启发式方法，逐渐理解和信任算法系统，从而影响其使用意图。
- 系统发展途径 ：系统的准确性和个性