30、面向终端用户的人工智能揭秘：参与式机器学习秀的发现

面向终端用户的人工智能揭秘：参与式机器学习秀的发现

一、引言

人们对人工智能的态度在很大程度上取决于他们对这些系统的了解程度。研究界的一个目标是提供更好的方法来教育人工智能技术的终端用户，提高公众对人工智能系统的理解。可解释人工智能（XAI）旨在让人工智能系统的决策更易于理解，但现有的XAI方法大多关注专家需求，忽略了终端用户。为了让更多终端用户了解人工智能系统的能力和局限性，研究团队在慕尼黑的德国博物馆举办了一场面向超2200名参观者的公共交互式机器学习秀（ML-show）。

在这场秀中，参与者可以集体为音频关键词识别的神经网络收集语料数据，并交互式地训练和测试其准确性。同时，通过XAI框架LIME和虚拟代理来解释网络的决策。研究团队通过比较参与ML-show的观众和未参与的博物馆参观者的问卷结果，探讨了以下问题：
1. 终端用户如何看待参与式ML-show？
2. ML-show参与者与非参与者在对人工智能的态度和自我评估的人工智能能力方面有何不同？
3. ML-show参与者与非参与者在对一般技术系统的态度方面有何不同？

二、相关工作

1. 教育和娱乐中的虚拟代理
   • 自90年代以来，动画代理在教育场景中的应用被证明对学生的学习表现有积极影响，这种现象被称为“角色效应”。例如，Lester等人发现逼真的代理能积极影响学生对学习体验和动机的感知；Mulken等人发现某些测试由代理呈现时，学生感觉要求没那么高，“角色效应”还能减少使用普通教育材料时产生的恐惧。
   • 类似的效果也在社交机器人和虚拟代理的应用中被观察到。如Hamme