29、自主社交机器人设计中为何需要情商及相关研究

自主社交机器人设计中为何需要情商及相关研究

道德设计与“四端”模型

在自主社交机器人的设计里，道德层面的考量十分关键。孟子的“四端”应被视为一个整体“复合体”，缺一不可，这也体现了源自儒家道德情感主义的情感伦理模型优于仅基于共情的模型。

构建用于设计人工道德主体的伦理数据库，伦理学家能发挥重大作用，但这是一项艰巨任务，需要哲学家、伦理学家、心理学家、认知科学家和人类学家等共同努力。人类的道德思考往往是直觉性的，例如即便有人原则上认同功利主义的效用原则，在实际选择中也未必会为了更大利益而牺牲个体，“天桥困境”中的电车问题就是很好的例子。然而，人工主体的思维完全依赖于我们的设计方案，即便机器人能在不同情境下做出不同选择，其思路基本都可追溯到设计。设计这样的算法是最大挑战，或许我们需要采用自下而上的模型，在持续实验中改进机器学习。不过，“四端”构建应是机器人设计的首要步骤，这是自上而下的模型。就像人类的“四端”是人性的基本结构一样，设计自主社交机器人时，我们也应将“四端”构建为机器的通用默认模型。当然，在人类社会中承担不同服务任务的机器人，也需要适合其工作要求的特定能力和相应数据库。而机器的“四端”设计能防止未来具有超人能力的机器人对人类构成威胁。

为自主社交机器人设计添加情感维度

在实际设计和实施方面，我们需依靠人工智能专家思考如何为机器情商设计深度强化机器学习模型和算法，这种研究通常被称为“情感的计算建模”。Reisenzein等人解释该研究的目标是“尝试开发和验证人类情感机制的计算模型”。他们通过功能分析来定义情感：如果机器人在功能上与有情感的人类等效，即其内部机器状态“在主体架构中发挥的因果作用与人类情感所起的作用类似”，那么就可以说这些机器人有情感。这