4、人工智能的捷径与可信AI之路

人工智能的捷径与可信AI之路

1. 人工智能捷径中的隐式信号监管

在人工智能发展中，对于智能体使用隐式信号的监管是一个值得关注的问题。当怀疑存在过滤气泡或行为成瘾的情况时，应更多依赖用户的自愿交流，而非观察用户行为来获取信息。故意使用心理测量信号推断用户对提案的反应，以及许多形式的引导行为可能都需要被禁止。对智能体使用隐式信号进行监管是合理的要求。

不过，这样做可能会带来更高的成本，还可能降低系统的性能和易用性。但在某些领域，我们或许会认为这是必要的，这也是偿还十多年前因走捷径而产生的道德债务的一部分。我们不应完全否定过去的决策，因为没有那些决策，就不会有如今的人工智能产业，但现在是时候重新审视其中一些决策了。

2. 隐式 - 显式维度分析

在分析人工智能系统的社会影响时，隐式信息到显式信息的维度一直被忽视。这一维度涵盖了智能体内部的知识表示、决策机制、训练数据中的信号、可能存在的偏差，以及用于引导学习的反馈信号。同时，也应包括人工智能系统用户的明确同意，以及将“数据供应链”作为分析对象的明确关注。利用这种区分有助于对数据市场进行更严格的监管。

2.1 显式数据的使用

在需要严格控制实验条件且必须仔细商定注释含义的情况下，可能需要强制使用显式创建的数据。用户使用显式相关性反馈也是某些情况下的重要要求，这可以防止智能体“窃听”并使用用户行为中无意透露的信息。因为偏好信息属于个人信息，收集这些信息需要用户的明确知情同意和明确选择加入。

2.2 显式知识表示的优缺点

在人工智能模型中进行显式知识表示，便于对偏差和解释进行合理性检查，但可能会限制系统的准确性。对训练数据中存在的