面向Java开发者的ChatGPT提示词工程（5）-Toy模板网

这篇具有很好参考价值的文章主要介绍了面向Java开发者的ChatGPT提示词工程（5）。希望对大家有所帮助。如果存在错误或未考虑完全的地方，请大家不吝赐教，您也可以点击"举报违法"按钮提交疑问。

GPT 的局限性

当我们探讨开发大型语言模型应用程序时，必须认识到 GPT 存在一些局限性。这些限制对于我们保持清醒的头脑至关重要。

在 GPT 的训练过程中，虽然注入了大量知识，但它并不能完美地记住所有的信息，同时对这些知识的边界了解也有限。这意味着当面对复杂的问题时，GPT 可能会试图给出答案，但这些答案实际上是虚构的，听起来合理但却不正确。我们称这种虚构的思维为幻觉。

在本文中，我们将探讨开发大型语言模型应用程序的挑战，特别关注 GPT 系列模型的局限性。了解这些局限性对于我们在实际应用中保持清醒的头脑至关重要。

我们需要认识到 GPT 模型在训练过程中虽然吸收了大量知识，但它并不能完美地记住所有的信息，同时对这些知识的边界了解也有限。这意味着当 GPT 面对复杂的问题时，它可能会试图给出答案，但这些答案实际上是虚构的，听起来合理但却不正确。我们将这种虚构的思维称为“幻觉”。

面向Java开发者的ChatGPT提示词工程（5）
深入了解 GPT 技术的局限性对于正确理解和应用该技术具有重要意义。在使用 GPT 时，我们应保持谨慎的态度，对其提供的信息进行适度的质疑，并时刻警惕其回答可能存在的误导性。通过这种方式，我们既能充分利用 GPT 技术的优势，同时在探索其潜力的过程中保持清醒的头脑。

比如，我们让 GPT 介绍一下百度：

public static void main(String[] args) {
    String prompt = "请介绍一下百度。";
    String response = getCompletion(prompt);
    System.out.println(response);
}

输出内容如下：

百度是中国最大的互联网搜索引擎，成立于2000年。它提供了各种各样的服务，包括搜索、贴吧、知道、文库、百科、地图、音乐、视频、购物等等。百度的搜索引擎是其最著名的服务之一，它可以帮助用户在互联网上找到他们需要的信息。百度还开发了一些人工智能技术，如语音识别、自然语言处理和机器学习等，这些技术被应用于百度的各种产品和服务中。百度在中国互联网市场上占据着重要的地位，是中国互联网领域的领导者之一。

因为百度是真实存在并且广为人知的，所以我们可以看到正确的答案。

如果让 GPT 介绍一下像“万猫学社”这样它不清楚的东西会怎么样呢？

public static void main(String[] args) {
    String prompt = "请介绍一下万猫学社。";
    String response = getCompletion(prompt);
    System.out.println(response);
}

输出内容如下：

万猫学社是一家在线教育平台，致力于为学生提供高质量的教育资源和服务。
该平台提供了各种课程，包括语言、数学、科学、艺术等多个领域，适合不同年龄段的学生。
万猫学社的课程由经验丰富的教师授课，采用互动式教学方式，让学生在轻松愉快的氛围中学习知识。
此外，万猫学社还提供了个性化的学习计划和学习跟踪服务，帮助学生更好地掌握知识和提高学习效率。

可以看到 GPT 将会给我们一个相当逼真的描述，这就相当危险了，因为它听起来相当真实，如果不知道真实情况完全可以误导我们。

如何避免幻觉

所以在构建自己的应用程序时，一定要使用我们在之前文章中介绍的一些技巧来避免这种情况。比如：

public static void main(String[] args) {
    String prompt = "请介绍一下万猫学社，如果你不清楚，就回答“不知道”。";
    String response = getCompletion(prompt);
    System.out.println(response);
}

输出内容如下：

不知道。

但是，这并不是百分之百起作用的。另一个减少幻觉的策略是：在让模型基于文本生成答案之前，先让提供文本中的相关信息，然后让它使用这些信息来回答问题。比如：

public static void main(String[] args) {
    String prompt = "根据三个引号之间的内容，介绍一下万猫学社。\n"
            + "```\n"
            + "技术博客，java，系统架构，微服务，数据库，云原生，系统架构设计师，CSDN博客专家，华为云‧云享专家，阿里云专家博主，51CTO博客TOP红人。\n"
            + "```";
    String response = getCompletion(prompt);
    System.out.println(response);
}

我们就基本可以得到我们想要的回答：

万猫学社是一个技术博客，主要涉及Java编程、系统架构、微服务、数据库、云原生等方面的内容。
其创始人是一位系统架构设计师，同时也是CSDN博客专家、华为云‧云享专家、阿里云专家博主、51CTO博客TOP红人。
通过万猫学社，读者可以获取到来自专业人士的技术分享和经验总结，提高自己的技术水平。

总结

我们这次了解了 GPT 的局限性：幻觉。当 GPT 面对晦涩主题的问题时，它可能会试图回答，但所提供的答案却是虚构的，听起来合理却实际不正确。

同时，我们也看到了克服幻觉的两个例子：

在提示词中明确写“如果你不清楚，就回答不知道。”。
在让模型基于文本生成答案之前，先让提供文本中的相关信息，然后让它使用这些信息来回答问题。

开发大型语言模型应用程序是一项充满挑战的任务，我们需要充分了解 GPT 系列模型的局限性，并采取相应的措施来应对这些问题。通过不断地优化和改进，我们有望实现更加智能、可靠和实用的自然语言处理系统。文章来源地址https://www.toymoban.com/news/detail-476899.html