11、对话系统与智能体社会中的信任与攻击研究

对话系统与智能体社会中的信任与攻击研究

在人工智能领域，对话系统的优化以及智能体社会中的信任机制是两个重要的研究方向。下面我们将深入探讨相关的方法、攻击以及应对策略。

统计话语选择方法

在对话系统中，统计候选话语选择方法是一项关键技术。通过机器学习算法，能够从预先准备的语音集合中自动选择合适的话语作为回应。

为了实现候选话语的自动评估，研究人员使用人工评估的候选话语作为学习数据，从而学习数据中的相对大小关系。以下是学习后各个特征的权重值：
| No. | 特征 | w |
| — | — | — |
| 1 | 候选话语和输入中有一个相同的名词 | 3.28 |
| 2 | 候选话语和输入中有两个共现词 | 2.01 |
| 3 | 候选话语和输入中有一个共现形容词 | 1.85 |
| 4 | 候选话语和输入中有两个共现动词 | 1.64 |
| 5 | 候选话语和输入中有一个相同的动词 | 1.12 |
| 6 | 输入中有两个片段，候选话语中有三个以上片段 | -1.65 |
| 7 | 输入包含“名词 o”且候选话语中有两个片段 | -2.05 |
| 8 | 候选话语或输入中没有相同的名词 | -3.02 |

从这些权重值可以看出，包含共现词或相同词的话语对于对话更为重要。实验结果表明，该方法具有一定的有效性，合适的话语作为首选的概率为 47.5%，在前 10 个选择中的概率为 78.0%。不过，该方法在对话智能体的实现方面仍有改进空间，让合适的话语排在首位具有重要意义。同时，在鼓励人类回复的智能体中应用此方法时，智能体在给出建议时应包含所有可能的合适