Langchain是一个集成多个大语言模型的开源框架,可以使用它来快速开发大语言模型应用。
本文的代码使用到的模块:
from typing import List, Dict
from langchain import PromptTemplate, FewShotPromptTemplate, LLMChain, OpenAI
01 普通的提示词模板
先来看看普通的提示词模板如何使用,效果如何:
# 创建大语言模型对象 这里使用gpt-3.5最新的指令模型
llm = OpenAI(model="gpt-3.5-turbo-instruct", temperature=0)
# 设置提示词模板 其中的{input}为等待用户填充问题的插槽
template = "我会给你一种物品名称的输入,你需要输出该类物品的一种具体事物,且使用量词开头。\nInput: {input}"
# 提示词模板对象 指定接收参数的参数名为input 也就是上述插槽中的内容
prompt = PromptTemplate(input_variables=["input"], template=template)
# 大语言模型 + 提示词模板对象 -> 生成一个chian
chain = LLMChain(llm=llm, prompt=prompt)
# 执行chain并查看结果
print(chain.run(input="手机"))
在这个示例中,对大模型的输入为:
我会给你一种物品名称的输入,你需要输出该类物品的一种具体事物,且使用量词开头。
Input: 手机
大模型的输出为:
Output: 一部手机
可以看到输出并不能很好地满足我们的需求,因为我希望输出的是该类物品的一件具体的事物,例如:一部华为手机,而它只是简单的给我添加了个量词就完事了。而且它还自己添加了output前缀。
02 few-shot提示词模板
下面使用few-shot提示词模板试试:
# 创建大语言模型
llm = OpenAI(model="gpt-3.5-turbo-instruct", temperature=0)
# 创建一个实例列表
examples: List[Dict[str, str]] = [
{"input": "水果", "output": "一个苹果"},
{"input": "宠物", "output": "一只猫"},
{"input": "家电", "output": "一台冰箱"}
]
# 创建提示词模板对象 该对象中的template部分插槽需要与示例中的键对应
example_prompt = PromptTemplate(input_variables=["input", "output"], template="Input: {input}\n{output}")
# 合成few-shot提示词模板对象
prompt = FewShotPromptTemplate(
prefix="我会给你一种物品名称的输入,你需要输出该类物品的一种具体事物,且使用量词开头。", # 示例提示词之前添加的内容
examples=examples, # 示例列表
example_prompt=example_prompt, # 容纳示例的提示词模板对象
suffix="Input: {input}", # 示例提示词之后添加的内容
input_variables=["input"] # 等待用户输入的参数插槽
)
# 创建一个chain
chain = LLMChain(llm=llm, prompt=prompt)
# 执行chain并查看结果
print(chain.run(input="手机"))
使用few-shot提示词模板后,对大模型的输入为:
我会给你一种物品名称的输入,你需要输出该类物品的一种具体事物,且使用量词开头。
Input: 水果
一个苹果
Input: 宠物
一只猫
Input: 家电
一台冰箱
Input: 手机
大模型的输出为:文章来源:https://www.toymoban.com/news/detail-724266.html
一部iPhone
比起无示例版本,输出结果有了明显改观。文章来源地址https://www.toymoban.com/news/detail-724266.html
到了这里,关于杂记 | Langchain中few-shot提示词模板的使用(给提示词添加示例)的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!