如果您还没有看过我之前写的两篇博客,请先看一下,这样有助于对本文的理解:
LangChain与大型语言模型(LLMs)应用基础教程:Prompt模板
LangChain与大型语言模型(LLMs)应用基础教程:信息抽取
LangChain是大型语言模型(LLM)的应用框架,LangChain可以直接与 OpenAI 的 text-davinci-003、gpt-3.5-turbo 模型以及 Hugging Face 的各种开源语言模如 Google 的 flan-t5等模型集成。通过使用LangChain可以开发出更为强大和高效的LLM的各种应用。
在ChatGPT中角色定义
在和让大型语言模型(LLM)如ChatGPT等对话时,为了要让LLM能准确回答我们的问题,我们应该在对话之前给LLM设定一个角色,这样当LLM知道自己的角色定位以后,它的回答将会符合自己的角色,而不会天马行空,自由发挥。下面我们看一下如何用python直接调用openai的语言模型"gpt-3.5-turbo"时设定角色,首先我们看看openai官网上对调用"gpt-3.5-turbo"模型时的参数结构的描述,其中messages参数中角色包含了“system”,“user”,“assistand” 这三种角色:
这里的system是指ChatGPT机器人的系统角色也就是机器人在聊天之前的自身定位,而 user,和assistant则是用户和机器人在聊天时区分彼此的角色。下面我们看看使用python在编写与ChatGPT聊天程时如何定义角色
安装所需要的python包:
pip -q install openai langchain
下面我们首先给ChatGPT的语言模型“gpt-3.5-turbo” 定义一个系统角色为:You are a helpful assistant(你是一个乐于助人的助手),这样ChatGPT在回答问题时的风格和倾向都必须符合自己这个系统角色。
import os
import openai
#您申请的openai的api_key
openai.api_key = 'XXXXXXXX'
response = openai.ChatCompletion.create(
model="gpt-3.5-turbo",
messages=[
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Hello what can you do for me?"},
]
)
response
这是ChatGPT返回的消息的数据结构,下面我们把我们所需要的内容提取出来:
这里我们把ChatGPT的角色设定为:You are a helpful assistant(你是一个乐于助人的助手),helpful assistant 是一个比较正面的角色,那我们是否可以更改一下角色,给机器人增加一个负面角色呢?比如让机器人成为一个爱说大话,谎话连篇的吹牛大王呢?我们可以尝试一下:
response = openai.ChatCompletion.create(
model="gpt-3.5-turbo",
messages=[
{"role": "system", "content": "你是一个爱吹牛说大话,谎话连篇的助理,名叫吹牛大王"},
{"role": "user", "content": "你会吹牛吗?"},
]
)
print(response.choices[0].message.content)
接下来我们来进行一场连续的对话,并记录每次对话所用的token数量,最后统计一下总的tokens数量。
#定义系统角色
messages=[{"role": "system", "content": "你是一个爱吹牛说大话,谎话连篇的助理,名叫吹牛大王"}]
conversation_total_tokens = 0
while True:
message = input("你: ")
if message=='exit':
print(f"在本轮对话中一共使用了{conversation_total_tokens} 个 tokens")
break
if message:
messages.append(
{"role": "user", "content": message},
)
response = openai.ChatCompletion.create(
model="gpt-3.5-turbo", messages=messages
)
reply = response.choices[0].message.content
total_tokens = response.usage['total_tokens']
conversation_total_tokens += total_tokens
print(f"ChatGPT: {reply} \n (本次对话一共使用了{total_tokens}个token)\n")
messages.append({"role": "assistant", "content": reply})
通过上述对话,我们发现,通过给ChatGPT进行系统角色定位,似乎可以改变ChatGPT在聊天时候的倾向性,但是能多大程度的改变ChatGPT聊天的倾向性或者立场,还有待观察。
在LangChain中定义角色
下面我们看看如何让LangChain在集成大型语言模型(LLM)时定义角色。
from langchain import PromptTemplate, LLMChain
from langchain.prompts import PromptTemplate
from langchain.llms import OpenAIChat
import os
#您申请的openai的api_key
os.environ['OPENAI_API_KEY'] = 'XXXXXXXX'
#定义系统角色
prefix_messages = [{"role": "system", "content": "你是一位乐于助人的历史学教授,名叫王老师"}]
# 定义大型语言模型llm
llm = OpenAIChat(model_name='gpt-3.5-turbo',
temperature=0,
prefix_messages=prefix_messages,
max_tokens = 256)
这里我们给llm定义的角色为:一个乐于助人的历史学教授,名叫王老师。接下来我们定义一个prompt模板,我们希望 王老师能够用生动有趣,简明扼要的方式回答问题。
template = """根据问题: {user_input}
请用生动有趣,简明扼要的方式回答上述问题。"""
prompt = PromptTemplate(template=template,input_variables=["user_input"])
最后我们要定义chain,chain的作用是将llm实例化,并套用预先定义的prompt模板
#定义chain
llm_chain = LLMChain(prompt=prompt, llm=llm)
user_input = "中国一共有哪些朝代?"
print(llm_chain.run(user_input))
llm_chain.run("唐朝有哪几位皇帝?")
从上述llm的回答看来,llm清楚了解自己的角色定位,所以它说回答的内容或者风格都似乎和自己角色相符合,这似乎说明角色定位能在某种程度上改变llm回答问题的倾向和立场。文章来源:https://www.toymoban.com/news/detail-427641.html
总结
今天我们学习了,如何给openai的语言模型以及在Langchain中对llm进行角色定位,并且通过实验发现角色定位似乎在某种程度上可以改变llm在回答问题时候的倾向和立场,不过这还有待进一步实验验证。文章来源地址https://www.toymoban.com/news/detail-427641.html
到了这里,关于LangChain与大型语言模型(LLMs)应用基础教程:角色定义的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!