面向Java开发者的ChatGPT提示词工程（5）避免幻觉

万猫学社

已于 2024-01-22 09:52:06 修改

阅读量4k

点赞数 28

分类专栏：面向Java开发者的ChatGPT提示词工程文章标签： java chatgpt 开发语言人工智能

于 2023-05-31 08:47:53 首次发布

本文链接：https://blog.youkuaiyun.com/heihaozi/article/details/130961167

版权

面向Java开发者的ChatGPT提示词工程专栏收录该内容

11 篇文章 ¥9.90 ¥99.00

订阅专栏

本文探讨了GPT模型的局限性，特别是其在处理复杂问题时可能出现的虚构答案，即“幻觉”。介绍了如何通过明确提示和提供相关信息来避免幻觉，以确保在开发大型语言模型应用时的准确性。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

GPT 的局限性

当我们探讨开发大型语言模型应用程序时，必须认识到 GPT 存在一些局限性。这些限制对于我们保持清醒的头脑至关重要。

在 GPT 的训练过程中，虽然注入了大量知识，但它并不能完美地记住所有的信息，同时对这些知识的边界了解也有限。这意味着当面对复杂的问题时，GPT 可能会试图给出答案，但这些答案实际上是虚构的，听起来合理但却不正确。我们称这种虚构的思维为幻觉。

在本文中，我们将探讨开发大型语言模型应用程序的挑战，特别关注 GPT 系列模型的局限性。了解这些局限性对于我们在实际应用中保持清醒的头脑至关重要。

我们需要认识到 GPT 模型在训练过程中虽然吸收了大量知识，但它并不能完美地记住所有的信息，同时对这些知识的边界了解也有限。这意味着当 GPT 面对复杂的问题时，它可能会试图给出答案，但这些答案实际上是虚构的，听起来合理但却不正确。我们将这种虚构的思维称为“幻觉”。

深入了解 GPT 技术的局限性对于正确理解和应用该技术具有重要意义。在使用 GPT 时，我们应保持谨慎的态度，对其提供的信息进行适度的质疑，并时刻警惕其回答可能存在的误导性。通过这种方式，我们既能充分利用 GPT 技术的优势，同时在探索其潜力的过程中保持清醒的头脑。

比如，我们让 GPT 介绍一下百度：

public static void main(String[] args) {
    String prompt = "请介绍一下百度。";
    String response = getCompletion(prompt);
    System.out.println(response);
}

输出内容如下：

百度是中国最大的互联网搜索引擎，成立于2000年。它提供了各种各样的服务，包括搜索、贴吧、知道、文库、百科、地图、音乐、视频、购物等等。百度的搜索引擎是其最著名的服务之一，它可以帮助用户在互联网上找到他们需要的信息。百度还开发了一些人工智能技术，如语音识别、自然语言处理和机器学习等，这些技术被应用于百度的各种产品和服务中。百度在中国互联网市场上占据着重要的地位，是中国互联网领域的领导者之一。

因为百度是真实存在并且广为人知的，所以我们可以看到正确的答案。

如果让 GPT 介绍一下像“万猫学社”这样它不清楚的东西会怎么样呢？

public static void main(String[] args) {
    String prompt = "请介绍一下万猫学社。";
    String response = getCompletion(prompt);
    System.out.println(response);
}

输出内容如下：

万猫学社是一家在线教育平台，致力于为学生提供高质量的教育资源和服务。
该平台提供了各种课程，包括语言、数学、科学、艺术等多个领域，适合不同年龄段的学生。
万猫学社的课程由经验丰富的教师授课，采用互动式教学方式，让学生在轻松愉快的氛围中学习知识。
此外，万猫学社还提供了个性化的学习计划和学习跟踪服务，帮助学生更好地掌握知识和提高学习效率。

可以看到 GPT 将会给我们一个相当逼真的描述，这就相当危险了，因为它听起来相当真实，如果不知道真实情况完全可以误导我们。

如何避免幻觉

所以在构建自己的应用程序时，一定要使用我们在之前文章中介绍的一些技巧来避免这种情况。比如：

public static void main(String[] args) {
    String prompt = "请介绍一下万猫学社，如果你不清楚，就回答“不知道”。";
    String response = getCompletion(prompt);
    System.out.println(response);
}

输出内容如下：

不知道。

但是，这并不是百分之百起作用的。另一个减少幻觉的策略是：在让模型基于文本生成答案之前，先让提供文本中的相关信息，然后让它使用这些信息来回答问题。比如：

public static void main(String[] args) {
    String prompt = "根据三个引号之间的内容，介绍一下万猫学社。\n"
            + "```\n"
            + "技术博客，java，系统架构，微服务，数据库，云原生，系统架构设计师，优快云博客专家，华为云‧云享专家，阿里云专家博主，51CTO博客TOP红人。\n"
            + "```";
    String response = getCompletion(prompt);
    System.out.println(response);
}