Emotional Manipulation Through Prompt Engineering Amplifies Disinformation Generation in AI LLM

本文是LLM系列文章，针对《Emotional Manipula$on Through Prompt Engineering Amplifies Disinformation Generation in AI Large Language Models》的翻译。

结构性摘要

引言：
人工智能（AI）大型语言模型（LLMs）的出现，能够生成与人类书面内容非常相似的文本，这既带来了机遇，也带来了风险。虽然这些发展为改善沟通提供了相当大的潜力，例如与健康相关的危机沟通，但它们也带来了实质性的危险，因为它们使人们能够相信假新闻和虚假信息。人工智能产生的虚假信息的广泛传播增加了正在进行的信息传播的现有挑战的复杂性，对公共卫生和民主进程的稳定性产生了重大影响。
基本原理
提示工程是一种涉及向LLM提供特定查询的技术，已成为指导LLM产生所需输出的关键策略。最近的研究表明，LLMs有能力理解情绪模式，这表明将情绪线索纳入提示工程可能会影响他们的反应行为。在这项研究中，我们假设通过使用情绪提示，我们可以操纵LLMs在发生虚假信息时的依从性。我们通过各种LLMs研究了提示的礼貌或不礼貌是否会影响发生虚假信息的频率。
结果
我们生成并评估了19800个关于公共卫生主题的社交媒体帖子