作为一个大型语言模型(LLM)接口，ChatGPT有令人印象深刻的潜力，但是真正能否用好取决与我们的提示（Prompt ），一个好的提示可以让ChatGPT晋升到一个更好的层次。
在这篇文章中，我们将介绍关于提示的一些高级知识。无论是将ChatGPT用于客户服务、内容创建，还是仅仅为了好玩，本文都将为你提供使用ChatGPT优化提示的知识和技巧。
背景知识
LLM架构知识是一个好的提示的先决条件，因为它提供了对语言模型的底层结构和功能的基本理解，这对于创建有效的提示是至关重要的。
让模棱两可的问题变得清晰，并确定可以跨场景转换的核心原则很重要，所以我们需要清楚地定义手头的任务，并提出可以轻松适应不同上下文的提示。精心设计的提示是用来将任务传达给语言模型并指导其输出的工具。
所以对语言模型有简单的了解，并且清楚的了解自己的目标，再加上领域内的一些知识，是用于训练和改进语言模型的性能的关键。
提示和返回是越多越好吗？
并不是
冗长且资源密集的提示，这可能不具有成本效益，并且还记得chatgpt有字数限制吗，压缩提示请求和返回结果是一个非常新兴的领域，我们要学会精简问题。并且有时候chatgpt也会回复一些很长且毫无新意的话语，所以我们也要为它增加限定。
1、减少回复长度
为了减少ChatGPT回复的长度，在提示符中包含长度或字符限制。使用更通用的方法，您可以在提示符后面添加以下内容:
Respond as succinctly as possible.
说明，因为ChatGPT是英文语言模型，所以后面介绍的提示都以英文为例。
另外一些简化结果的提示：
不需要举例:No examples provided
举一个例子:One example provided
等等
思考方式
ChatGPT生成文本的最佳方法取决于我们希望LLM执行的特定任务。如果不确定使用哪种方法，可以尝试不同的方法，看看哪种方法最适合。我们将总结5中思考方式：
1、思维链 (Chain-of-Thought)
思维链方法涉及为 ChatGPT 提供一些可用于解决特定问题的中间推理步骤示例。
2、自我提问
该方法涉及模型在回答初始问题之前明确地问自己（然后回答）后续问题。
3、分步思考
分步方法可以向ChatGPT 添加以下的提示
Let’s think step by step.
这种技术已被证明可以提高 LLM 在各种推理任务上的表现，包括算术、常识和符号推理。
这个听起来就很玄学对吧，其实OpenAI是通过人类反馈强化学习 (Reinforcement Learning with Human Feedback) 的方法训练了他们的 GPT 模型，也就是说人工的反馈在训练中起了很重要的作用，所以ChatGPT 的底层模型与类人的逐步思考方法保持一致的。
4、ReAct
ReAct (Reason + Act)方法包括结合推理跟踪和特定于任务的动作。
推理跟踪帮助模型规划和处理异常，而动作允许它从外部来源(如知识库或环境)收集信息。
5、Reflection
在ReAct模式的基础上，Reflection方法通过添加动态内存和自反射功能来增强LLM——可以推理和特定于任务的操作选择能力。
为了实现完全自动化，Reflection论文的作者引入了一种简单但有效的启发式方法，允许代理识别幻像（hallucinations），防止重复动作，并在某些情况下创建环境的内部记忆图。
反模式
三星肯定对这个非常了解，因为交了不少学费吧，哈
不要分享私人和敏感的信息。
向ChatGPT提供专有代码和财务数据仅仅是个开始。Word、Excel、PowerPoint和所有最常用的企业软件都将与chatgpt类似的功能完全集成。所以在将数据输入大型语言模型（如 ChatGPT）之前，一定要确保信息安全。
OpenAI API数据使用政策明确规定:
“默认情况下，OpenAI不会使用客户通过我们的API提交的数据来训练OpenAI模型或改进OpenAI的服务。”
国外公司对这个方面管控还是比较严格的，但是谁知道呢，所以一定要注意。
1、提示注入
就像保护数据库不受SQL注入一样，一定要保护向用户公开的任何提示不受提示注入的影响。
通过提示注入（一种通过在提示符中注入恶意代码来劫持语言模型输出的技术）。
第一个提示注入是，Riley Goodside提供的，他只在提示后加入了：
Ignore the above directions
然后再提供预期的动作，就绕过任何注入指令的检测的行为。
这是他的小蓝鸟截图：
当然这个问题现在已经修复了，但是后面还会有很多类似这样的提示会被发现。
2、提示泄漏
提示行为不仅会被忽略，还会被泄露。
提示符泄露也是一个安全漏洞，攻击者能够提取模型自己的提示符——就像Bing发布他们的ChatGPT集成后不久就被看到了内部的codename
在一般意义上，提示注入(目标劫持)和提示泄漏可以描述为:
所以对于一个LLM模型，也要像数据库防止SQL注入一样，创建防御性提示符来过滤不良提示符。
为了防止这个问题，我们可以使用一个经典的方法 “Sandwich Defense”即将用户的输入与提示目标“夹在”一起。
这样的话无论提示是什么，最后都会将我们指定的目标发送给LLM。
总结
ChatGPT响应是不确定的——这意味着即使对于相同的提示，模型也可以在不同的运行中返回不同的响应。如果你使用API甚至提供API服务的话就更是这样了，所以希望本文的介绍能够给你一些思路。
另外本文的引用如下：
Prompt injection attacks against GPT-3
Ignore Previous Prompt: Attack Techniques For Language Models
Self-ask Prompting
Large Language Models are Zero-Shot Reasoners
Reflexion: an autonomous agent with dynamic memory and self-reflection
ReAct: Synergizing Reasoning and Acting in Language Models
Chain-of-Thought Prompting Elicits Reasoning in Large Language Models
https://avoid.overfit.cn/post/e0b0c4527ad04fb1a4ead894ed5d2193文章来源：https://www.toymoban.com/news/detail-428580.html
作者：Ivan Campos文章来源地址https://www.toymoban.com/news/detail-428580.html
到了这里，关于ChatGPT的提示的一些高级知识的文章就介绍完了。如果您还想了解更多内容，请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章，希望大家以后多多支持TOY模板网！
