20、情感计算的伦理问题与应用指南

情感计算的伦理问题与应用指南

1. 情感计算中的伦理考量

在情感计算领域，伦理问题至关重要。以商场中的社交机器人为例，理解行人的不同偏好，如他们当前的参与程度，能让机器人有选择地接近有需求的人，避免打扰他人。

在情感计算系统的设计中，要考虑到相互矛盾的利益。对于旨在促进幸福的情感计算系统，理解并契合用户的理性欲望和目标尤为关键。例如在身体康复场景中，用户可能因锻炼不适而气馁，但从长远来看继续锻炼会带来更大收益。因此，作为教练的情感系统应激励用户坚持锻炼，而非一检测到不适就终止训练。

人的幸福可以通过主观指标（如满意度或成就感）和客观指标（如健康评估或任务完成情况）来衡量。情感计算系统应在设计中纳入用户的幸福考量，并在长期、自然的环境中衡量与幸福相关的目标。

在将道德价值观嵌入人工智能系统时，人工智能代理需要研究特定环境下社区共享的一组道德信念。虽然不同文化和环境中存在重叠的道德价值观，但许多道德信念是依赖于具体情境的。例如，在自动驾驶汽车面临的道德困境中，不同文化和个人的偏好存在差异。因此，在设计伦理情感计算系统时，既要考虑共享的道德价值观，也要适应特定的应用和用户环境。

2. 构建负责任的情感计算系统

实现伦理情感计算不仅需要研究人员和从业者在设计和开发过程中采取相应方法，还需要监管努力。

2.1 问责制

问责制通常是一种实体向利益相关者报告信息，并在适当情况下获得赞扬、反对或后果的关系。在问责制中，责任将行动或结果与后果联系起来，这种联系基于因果关系、过错和义务。对于情感计算系统，利益相关者通常包括系统的设计者和开发者、目标用户、可能与之交互的人，以及系统部署的环境和监