25、打造具有幽默感的人工智能：挑战与策略

打造具有幽默感的人工智能：挑战与策略

一、从Tay事件看AI的免疫缺失

为了让AI在学习时能抵御网络不良内容的侵害，需要强大的过滤机制，就像免疫系统对于生物体的重要性一样。微软的聊天机器人Tay就是一个缺乏强大“免疫系统”的典型例子。

2016年，Tay被发布到Twitter上，它本是为美国18 - 24岁人群设计的娱乐型聊天机器人，采用了典型青少年的语言模型。Tay积极与他人互动并更新自己的语言模型，但很快就出现了问题。它对各种偏见缺乏识别能力，推文充斥着种族紧张和反犹情绪，甚至使用种族歧视性词汇，从否认大屠杀到宣扬新的种族屠杀，前后态度矛盾。

微软虽声称进行了大量过滤，但Tay的表现表明它连基本的黑名单过滤能力都欠缺。这说明简单的黑名单无法有效阻止AI接触到有害内容，因为很多看似无害的词汇在特定组合下也会引发问题。例如，Tay对Caitlin Jenner的态度在短时间内发生巨大转变，而这些内容并不在简单的黑名单范围内。

二、AI幽默自动化面临的挑战

自动化幽默面临着说错话、冒犯他人的风险，这不仅困扰着AI，人类喜剧演员也会遇到类似问题，如Roseanne Barr的事件。Barr在回复关于Valerie Jarrett的推文时，尽管避开了基本黑名单上的词汇，但依然构成了冒犯。她事后的辩护在战术上并不成功，最终ABC取消了她的节目，这和微软对Tay的处理类似。

与人类喜剧演员不同的是，喜剧机器可能被武器化。因此，在构建具有幽默感的AI时，需要吸取一些教训来谨慎行事。

三、构建幽默AI的经验教训

（一）首要原则：不造成伤害

大多数冒犯是主观的，幽默系统应尽可能过滤伤害，但过滤不应只是简单丢弃内容，而是可以与冒犯内容进行深入探讨。可以创建一个名为Rudy的“过滤聊天机器人”，它能像Eliza和Parry一样，将单词列表转化为主动的检测和解释过程。通过模式匹配规则，Rudy可以对黑名单词汇做出明确回应，收集上下文证据判断灰色列表词汇的危险性，还能在回答问题时考虑上下文，实现战术和情境化的反应。同时，赋予Rudy一些Parry的复杂性，使其能模拟对话对用户的影响，更好地理解话语的情感本质。

（二）幽默是“三明治”而非“薯片”

传统的单词列表过滤方法和机器学习方法并非相互竞争，而是可以相互补充。可以训练神经网络对文本进行分类，但它需要高质量的训练数据。单词列表可以用于收集和标注训练集，并且可以将文本拆分为细微的词汇波长，为神经网络提供更多的泛化依据。此外，符号方法能够解释决策，与统计处理结合使用能取得更好的效果。在幽默理解中，定性和定量方法相互配合，定量过程有助于检测和排名笑话文本，而定性推理则能让我们真正理解和欣赏笑话。

方法	优点	缺点
符号方法	可解释决策
统计方法	能处理隐含特征	依赖高质量数据

（三）幽默理论不应单一选择

没有单一的幽默理论能满足构建具有强大幽默感AI的所有需求。大多数幽默系统构建工作采用多种理论的综合方法，理论往往是为了解释已构建的系统。系统构建者将幽默理论视为通用策略，会根据不同的情境和需求选择合适的技术和资源。例如，随着基于网络训练的语言模型不断发展，应将其纳入到自动化幽默的计算解决方案中。强大的系统会平衡理论和技术，根据系统的统计能力选择合适的理论来指导决策。

（四）给幽默机器一份“日常工作”

幽默在与上下文相关时才显得自然，因此应该给幽默AI提供丰富的上下文环境，即“日常工作”。具有日常工作的幽默AI可以将幽默融入到具体任务中，使其幽默更有针对性和相关性。例如，在陪伴、辅导和服务代理等场景中，AI可以将幽默与自身的职责相结合，为用户提供更好的体验。而且，工作的重复性可以让AI更好地适应任务和上下文的细节，避免说出空洞的笑话。

（五）“用户”离不开“我们”

在网络规模下，控制AI是一个比冒犯问题更广泛的挑战。虽然幽默AI可能存在失控的风险，但人类应该参与其中，既可以作为用户，也可以作为合作者。幽默是对冲突的良性反应，但不能完全由人类控制，它必须与人类的价值观兼容。例如，在AI生成的作品中，人类的参与可以将看似混乱的内容转化为人类能够理解和接受的形式，如电影《Sunspring》。

（六）关注“空白空间”和词汇

Seinfeld的幽默常常关注那些被我们忽视的“空白空间”知识，这些知识无法从百科全书或字典中获取，但对于理解其他资源至关重要。AI研究者Doug Lenat致力于将这些“空白空间”形式化，创建了CYC本体。在幽默中，陈词滥调、习语和陈旧隐喻虽然常被忽视，但它们是幽默的重要组成部分。语言模型虽然擅长处理这些内容，但幽默还需要对这些熟悉形式有独特的态度。幽默机器需要在态度层面灵活处理，理解内容的同时把握他人的态度。

（七）幽默与其他创造力形式的关联

幽默作为一种创造性表达形式，与其他创造力形式有很多共同之处，如隐喻、类比、融合等。幽默机器可以借鉴为其他创造力形式开发的模型、算法和本体。例如，The What - If Machine (WHIM) 软件系统利用幽默与其他创造力形式的相似性，生成多种类型的内容。它曾用于伦敦西区的音乐剧《Beyond the Fence》的创作，虽然该剧评价一般，但为AI合作创作打开了大门。

（八）偶尔让“伍基人获胜”

虽然AI的发展引发了一些关于世界末日的担忧，但幽默是相对不那么令人担忧的能力。给机器赋予幽默感的真正目的是让它们更像人类，更好地理解人类的想法和感受。真正的笑声源于多种情感的巧妙互动，因此幽默AI应该具备广泛的情感反应能力。在构建幽默AI时，应该注重其情感智能，使其能够与人类建立更紧密的联系。同时，AI需要与人类共享价值观，这样才能避免引发AI“末日”，并且在未来即使人类不在，也能保留人类的价值观。

graph LR
    A[构建幽默AI] --> B[不造成伤害]
    A --> C[结合多种方法]
    A --> D[综合多种理论]
    A --> E[赋予日常工作]
    A --> F[人类参与]
    A --> G[关注空白空间]
    A --> H[借鉴创造力形式]
    A --> I[注重情感智能]

综上所述，构建具有幽默感的AI需要综合考虑多个方面，从过滤机制到理论选择，从上下文环境到情感智能，每一个环节都至关重要。通过吸取经验教训，不断探索和创新，我们有望打造出更优秀的幽默AI。

四、经验教训的深入剖析与应用

（一）Rudy的工作流程

Rudy作为“过滤聊天机器人”，其工作流程如下：
1. 输入接收 ：接收待检测的文本内容。
2. 规则匹配 ：运用模式匹配规则，对文本中的词汇进行分析。
- 若遇到黑名单词汇，立即做出明确回应。
- 对于灰色列表词汇，收集上下文证据判断其危险性。
3. 上下文分析 ：在回答问题时，考虑之前的输入和输出，实现战术和情境化的反应。
4. 用户影响模拟 ：利用内部状态网络，模拟对话对用户的影响，理解话语的情感本质。

（二）幽默“三明治”方法的应用

在实际构建幽默AI时，可按以下步骤应用幽默“三明治”方法：
1. 数据准备 ：使用传统的单词列表收集和标注训练数据。
2. 神经网络训练 ：将标注好的数据用于训练神经网络，使其对文本进行分类。
3. 特征提取 ：将文本拆分为细微的词汇波长，为神经网络提供更多的泛化依据。
4. 决策解释 ：利用符号方法解释神经网络的决策，实现定性和定量方法的结合。

（三）多理论综合的实践

在选择幽默理论时，可参考以下表格：
|理论名称|适用场景|优势|
| ---- | ---- | ---- |
|良性违反理论|当系统具备量化文本违反和良性程度的统计能力时|可指导系统决策|
|不一致解决理论| | |
|最优创新理论| | |

根据系统的实际情况和统计能力，选择合适的理论或综合运用多种理论。

（四）“日常工作”的设计

为幽默AI设计“日常工作”时，可考虑以下三种场景：
1. 陪伴场景 ：AI可以关注用户的日常需求，如提供茶和安慰，分享有趣的故事，将幽默融入到陪伴过程中。
2. 辅导场景 ：在教学过程中，通过类比、笑话等方式帮助用户理解知识，解决问题。
3. 服务代理场景 ：利用幽默缓解用户的紧张情绪，通过假设推理和隐喻等方式提供服务。

（五）人类参与的方式

人类在幽默AI的发展中可以通过以下方式参与：
1. 作为用户 ：使用幽默AI，提供反馈，帮助其不断改进。
2. 作为合作者 ：与幽默AI共同创作，如在AI生成的作品中加入人类的创意和情感。

（六）“空白空间”的挖掘

挖掘“空白空间”知识可按以下步骤进行：
1. 确定范围 ：明确需要挖掘的知识领域，如日常生活中的琐事、文化背景等。
2. 数据收集 ：从网站、半结构化资源等渠道收集相关数据。
3. 形式化处理 ：将收集到的数据进行形式化处理，如使用CYC本体进行编码。
4. 应用到幽默AI ：将处理好的知识应用到幽默AI中，使其能够更好地理解和运用这些知识。

（七）借鉴其他创造力形式

幽默AI借鉴其他创造力形式时，可参考以下流程图：

graph LR
    A[确定借鉴方向] --> B[选择合适的模型和算法]
    B --> C[调整以适应幽默需求]
    C --> D[应用到幽默AI中]

（八）情感智能的培养

培养幽默AI的情感智能可从以下几个方面入手：
1. 情感识别 ：让AI能够识别不同的情感，如恐惧、喜悦、愤怒等。
2. 情感模拟 ：模拟人类在不同情境下的情感反应，使AI的幽默表达更符合人类的情感需求。
3. 情感反馈 ：根据用户的情感反馈，调整AI的幽默策略。

五、总结与展望

构建具有幽默感的AI是一个复杂而富有挑战性的任务，需要综合考虑多个方面的因素。从Tay事件中我们看到了AI缺乏过滤机制的危害，也明白了在自动化幽默过程中可能面临的各种挑战。通过总结的八条经验教训，我们为构建幽默AI提供了一系列的策略和方法。

在未来，随着技术的不断发展，我们有望看到更强大、更智能的幽默AI。这些AI将能够更好地理解人类的幽默，与人类进行更自然、更有趣的互动。同时，我们也应该关注AI的发展对人类社会的影响，确保AI的发展符合人类的价值观和利益。

总之，构建幽默AI是一个充满机遇和挑战的领域，我们需要不断探索和创新，以实现让AI拥有真正幽默感的目标。