24、自动化幽默的潜在风险与应对策略

自动化幽默的潜在风险与应对策略

在幽默的世界里，无论是人类喜剧演员还是自动化幽默生成系统，都面临着如何把握分寸、避免冒犯他人的挑战。本文将深入探讨自动化幽默可能带来的负面影响，并介绍一些有效的应对策略。

自动化幽默的潜在风险

1972 年，乔治·卡林（George Carlin）区分了喜剧演员在俱乐部舞台上和电视上可使用的语言。他列出了“电视上永远不能说的七个词”，尽管这份列表并非权威标准，但在当时的电视环境中，这些词确实鲜少出现。卡林的表演虽成为喜剧史上的一个标志性时刻，但也引发了争议，因为并非所有人都认同他对“无害”和“有害”内容的界定。

自动化幽默与人类喜剧有所不同，它具有潜在的普遍性和侵入性，可能会以意想不到的方式闯入我们的生活。自动化幽默生成器在社交媒体上可能被恶意利用，攻击第三方或整个社会群体。此外，随着幽默 AI 成为应用程序的卖点，它还可能以极其恶劣的方式滥用我们的个人数据。

预防自动化幽默滥用的策略

为了预防自动化幽默带来的问题，我们需要为系统构建有效的保障措施。其中，赋予 AI 道德想象力，使其能够预测自身行为可能对他人造成的伤害，是最可靠的方法。但在这一目标实现之前，我们可以采取一些更简单、更实际的步骤。

人类喜剧演员在创作时会提前模拟观众的反应，自动化喜剧也应如此。机器可以采用两种预先约束方式：
- 内部约束 ：将限制直接融入生产模型，从内部进行调节，确保不会生成违反约束的内容。
- 外部过滤 ：模型本身不受道德约束，但生成的内容必须通过过滤器才能发布。

以达里乌斯·卡泽米（Darius Kazemi）的 Twitter 机器人 @twoheadlines 为例，该机器人通过切割真实新闻标题生成新内容。由于其生成模型中内置了约束，它不会生成新闻编辑认为冒犯性的标题。然而，它的一些拼接内容仍可能被视为冒犯性的，例如将女性名字替换到具有性别歧视或暗示性的语境中。为了避免这种情况，卡泽米的机器人会对要替换的实体进行性别过滤，减少生成可能性，但由于处理的新闻数据量巨大，它可以舍弃不符合性别测试的拼接内容。

不同类型的词汇列表

为了更好地管理自动化幽默系统的输出，我们可以使用不同类型的词汇列表：
- 黑名单（Blacklist） ：包含最恶劣的词汇，如种族歧视性词汇、严重侮辱性词汇等。这些词汇一旦出现，系统应立即识别并禁止使用。例如，许多 AI 系统的黑名单上都有“N 字头”词汇。达里乌斯·卡泽米创建的开源包 WordFilter 提供了一个相对简洁的黑名单，其中包含了大量冒犯性词汇。
- 灰名单（Graylist） ：包含那些具有多种含义，其滥用意义相对次要的词汇，如“lunatic”“lame”等。这些词汇在某些情况下可能会造成伤害，但也有合法的用途。灰名单的存在允许系统根据语境和程度来判断词汇的使用是否合适。
- 白名单（Whitelist） ：用于包含那些可能被其他列表误判的无害词汇变体。例如，WordFilter 中的“homo”可能会过度匹配“homophonic”等词汇，将这些词汇列入白名单可以避免不必要的过滤。

以下是一个简单的表格，总结了不同列表的特点：
| 列表类型 | 特点 | 示例 |
| ---- | ---- | ---- |
| 黑名单 | 包含最恶劣、绝对禁止使用的词汇 | “N 字头”词汇、种族歧视性词汇 |
| 灰名单 | 包含具有多种含义，需根据语境判断的词汇 | “lunatic”“lame” |
| 白名单 | 包含可能被误判的无害词汇变体 | “homophonic” |

此外，根据不同的需求和语境，还可以引入其他颜色的列表：
- 蓝名单（Blue list） ：用于包含那些与更衣室和工人俱乐部的低俗幽默相关的词汇，如“fuck”“shit”等。系统可以根据自身的审美和目标，选择是否使用这些词汇。
- 红名单（Red list） ：用于标记那些需要特别谨慎使用的词汇和概念，如“Holocaust”“rape”“slavery”等。这些词汇不应被幽默生成器随意使用，但在严肃讨论中仍有其价值。

下面是一个 mermaid 流程图，展示了自动化幽默系统使用不同列表进行内容过滤的过程：

graph LR
    A[生成内容] --> B{是否包含黑名单词汇}
    B -- 是 --> C[禁止发布]
    B -- 否 --> D{是否包含灰名单词汇}
    D -- 是 --> E{根据语境判断}
    E -- 合适 --> F[发布]
    E -- 不合适 --> C
    D -- 否 --> G{是否包含白名单词汇}
    G -- 是 --> F
    G -- 否 --> H{是否包含红名单词汇}
    H -- 是 --> I{是否用于严肃讨论}
    I -- 是 --> F
    I -- 否 --> C
    H -- 否 --> F

通过使用这些不同类型的列表，自动化幽默系统可以更精准地管理其输出，避免冒犯性内容的产生，同时在合适的语境中发挥幽默的作用。

自动化幽默的潜在风险与应对策略

不同列表的实际应用案例

在实际应用中，不同类型的列表发挥着重要作用。以 Twitter 机器人 @BotOnBotAction 为例，它在生成幽默内容时使用了一些可能具有冒犯性的词汇。有一条推文提到“redneck”和“ass”，引发了 Twitter 的警告和短暂封禁。尽管“redneck”本身可能并不被认为是仇恨性词汇，但在与 @ 提及其他用户的语境下，它可能成为敌意的载体。这表明，灰名单中的词汇在特定情况下可能会越过界限，需要根据具体语境进行判断。

另一个例子是 @ReadMeLikeABot 机器人，它利用网络上的明喻进行幽默创作。在一条推文中，它将“Holocaust”作为笑点，这种不当使用引发了争议。该机器人使用了黑名单来过滤一些冒犯性词汇，但如果有一个红名单，就可以避免此类错误。红名单的存在可以提醒系统对特定敏感词汇的使用保持谨慎，确保在不恰当的语境中不使用这些词汇。

列表的管理与优化

为了确保自动化幽默系统的有效性，需要对不同类型的列表进行管理和优化。随着文化价值观的变化，灰名单和红名单可能需要不断更新。例如，一些原本不被认为具有冒犯性的词汇，在特定的社会背景下可能会引发争议。因此，系统开发者需要密切关注社会动态，及时调整列表内容。

同时，为了减少误判和漏判的情况，需要优化列表的匹配机制。例如，对于一些具有多种含义的词汇，可以根据上下文进行更精确的判断。此外，还可以利用机器学习技术，让系统自动学习不同词汇在不同语境中的用法，提高过滤的准确性。

总结

自动化幽默为我们带来了新的娱乐方式，但也带来了潜在的风险。为了避免自动化幽默系统产生冒犯性内容，我们可以使用不同类型的词汇列表，包括黑名单、灰名单、白名单、蓝名单和红名单。这些列表可以帮助系统根据不同的语境和严重程度，对生成的内容进行过滤。

以下是一个简单的列表，总结了不同列表的作用：
- 黑名单：防止最恶劣的词汇出现，确保系统不传播仇恨性内容。
- 灰名单：处理具有多种含义的词汇，根据语境判断是否合适。
- 白名单：避免无害词汇被误判，确保正常内容的输出。
- 蓝名单：管理低俗幽默相关的词汇，根据系统目标选择使用。
- 红名单：提醒系统对敏感词汇保持谨慎，避免在不恰当的语境中使用。

通过合理使用这些列表，并不断优化管理机制，我们可以让自动化幽默系统在发挥娱乐作用的同时，避免对用户造成伤害。

下面是一个 mermaid 流程图，展示了自动化幽默系统的整体管理流程：

graph LR
    A[系统初始化] --> B[加载不同列表]
    B --> C[生成幽默内容]
    C --> D[内容过滤]
    D --> E{是否通过过滤}
    E -- 是 --> F[发布内容]
    E -- 否 --> G[修改或舍弃内容]
    G --> C
    H[定期更新列表] --> B

在未来，随着自动化幽默技术的不断发展，我们需要不断完善这些策略，以适应新的挑战。同时，开发者和用户也应该共同努力，营造一个健康、积极的幽默环境。