智谱AI:ChatGLM API调用说明

这篇具有很好参考价值的文章主要介绍了智谱AI:ChatGLM API调用说明。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

一、前言:

智谱AI与清华KEG实验室发布的ChatGLM大语言模型,支持8k上下文,在内容创作、文本理解、信息抽取等任务上表现突出。经过海量中英标识符的预训练与人类偏好对齐训练,相比一代模型在 MMLU、C-Eval、GSM8K 分别取得了16%、36%、280%的提升,并登顶中文任务榜单C-Eval。

二、获取API Key:

1、打开网址:智谱AI开放平台 注册账号登录

2、登录——右上角(查看API Key)

3、注册后赠送100万token,实名认证后多赠送400万(有效期一个月)

chatglm的api,API接口,python,语言模型,智谱

chatglm的api,API接口,python,语言模型,智谱

chatglm的api,API接口,python,语言模型,智谱

三、安装及调用:

首先请通过如下方式进行安装:

pip install zhipuai

我们升级了最新的模型 GLM-4、GLM-3-Turbo,支持了System Prompt、Function Call、Retrieval、Web_Search等新功能。使用以上新功能需升级最新版本的 Python SDK。如您已安装老版本SDK,请您更新到最新版SDK。

pip install --upgrade zhipuai

调用方式

示例1:

from zhipuai import ZhipuAI
client = ZhipuAI(api_key="") # 填写您自己的APIKey
response = client.chat.completions.create(
    model="glm-4",  # 填写需要调用的模型名称
    messages=[
        {"role": "user", "content": "作为一名营销专家,请为我的产品创作一个吸引人的slogan"},
        {"role": "assistant", "content": "当然,为了创作一个吸引人的slogan,请告诉我一些关于您产品的信息"},
        {"role": "user", "content": "智谱AI开放平台"},
        {"role": "assistant", "content": "智启未来,谱绘无限一智谱AI,让创新触手可及!"},
        {"role": "user", "content": "创造一个更精准、吸引人的slogan"}
    ],
)
print(response.choices[0].message)

示例2:

from zhipuai import ZhipuAI
client = ZhipuAI(api_key="") # 填写您自己的APIKey
response = client.chat.completions.create(
    model="glm-4v",  # 填写需要调用的模型名称
    messages=[
       {
        "role": "user",
        "content": [
          {
            "type": "text",
            "text": "图里有什么"
          },
          {
            "type": "image_url",
            "image_url": {
                "url" : "https://img1.baidu.com/it/u=1369931113,3388870256&fm=253&app=138&size=w931&n=0&f=JPEG&fmt=auto?sec=1703696400&t=f3028c7a1dca43a080aeb8239f09cc2f"
            }
          }
        ]
      }
    ]
)
print(response.choices[0].message)

示例3:

from zhipuai import ZhipuAI
client = ZhipuAI(api_key="") # 请填写您自己的APIKey
response = client.chat.completions.create(
    model="glm-3-turbo",  # 填写需要调用的模型名称
    messages=[
        {"role": "system", "content": "你是一个乐于解答各种问题的助手,你的任务是为用户提供专业、准确、有见地的建议。"},
        {"role": "user", "content": "我对太阳系的行星非常感兴趣,特别是土星。请提供关于土星的基本信息,包括其大小、组成、环系统和任何独特的天文现象。"},
    ],
    stream=True,
)
for chunk in response:
    print(chunk.choices[0].delta)

四、接口说明:

模型编码:glm-4

根据输入的自然语言指令完成多种语言类任务,推荐使用 SSE 或异步调用方式请求接口

传输方式

https

请求地址

https://open.bigmodel.cn/api/paas/v4/chat/completions

调用方式

同步调用,等待模型执行完成并返回最终结果或 SSE 调用

字符编码

UTF-8

接口请求格式

JSON

响应格式

JSON 或标准 Stream Event

接口请求类型

POST

开发语言

任意可发起 HTTP 请求的开发语言

接口参数请求

model

String

所要调用的模型编码

messages

List<Object>

调用语言模型时,将当前对话信息列表作为提示输入给模型, 按照 {"role": "user", "content": "你好"} 的json 数组形式进行传参; 可能的消息类型包括 System message、User message、Assistant message 和 Tool message。

request_id

String

由用户端传参,需保证唯一性;用于区分每次请求的唯一标识,用户端不传时平台会默认生成。

do_sample

Boolean

do_sample 为 true 时启用采样策略,do_sample 为 false 时采样策略 temperature、top_p 将不生效

stream

Boolean

使用同步调用时,此参数应当设置为 fasle 或者省略。表示模型生成完所有内容后一次性返回所有内容。

如果设置为 true,模型将通过标准 Event Stream ,逐块返回模型生成内容。Event Stream 结束时会返回一条data: [DONE]消息。

注意:在模型流式输出生成内容的过程中,我们会分批对模型生成内容进行检测,当检测到违法及不良信息时,API会返回错误码(1301)。开发者识别到错误码(1301),应及时采取(清屏、重启对话)等措施删除生成内容,避免其造成负面影响。

temperature

Float

采样温度,控制输出的随机性,必须为正数

取值范围是:(0.0, 1.0),不能等于 0,默认值为 0.95,值越大,会使输出更随机,更具创造性;值越小,输出会更加稳定或确定

建议您根据应用场景调整 top_p 或 temperature 参数,但不要同时调整两个参数

top_p

Float

用温度取样的另一种方法,称为核取样
取值范围是:(0.0, 1.0) 开区间,不能等于 0 或 1,默认值为 0.7
模型考虑具有 top_p 概率质量 tokens 的结果
例如:0.1 意味着模型解码器只考虑从前 10% 的概率的候选集中取 tokens
建议您根据应用场景调整 top_p 或 temperature 参数,但不要同时调整两个参数

max_tokens

Integer

模型输出最大 tokens

stop

List

模型在遇到stop所制定的字符时将停止生成,目前仅支持单个停止词,格式为["stop_word1"]

tools

List

可供模型调用的工具列表,tools 字段会计算 tokens ,同样受到 tokens 长度的限制

tool_choice

String 或 Object

用于控制模型是如何选择要调用的函数,仅当工具类型为function时补充。默认为auto,当前仅支持auto

System Message格式

role

String

消息的角色信息,此时应为system

content

String

消息内容

User Message格式

role

String

消息的角色信息,此时应为user

content

String

消息内容

Assisant Message格式

role

String

消息的角色信息,此时应为assistant

content

String

"content"与"tool_calls"二必选一

消息内容。其中包括了tool_calls字段,content字段为空。

tool_calls

List

"content"与"tool_calls"二必选一

模型产生的工具调用消息

Tool Message格式

tool message 代表工具被调用后返回的结果。模型根据tool message向用户输出自然语言格式的消息。

role

String

消息的角色信息,此时应为tool

content

String

tool_message消息内容,为工具被调用后返回的结果

tool_call_id

String

tool的调用记录

模型同步调用响应内容

id​

String

任务ID

created

Long

请求创建时间,是以秒为单位的 Unix 时间戳

model

String

模型名称

choices

List

当前对话的模型输出内容

usage

Object

结束时返回本次模型调用的 tokens 数量统计。文章来源地址https://www.toymoban.com/news/detail-843140.html

内容生成流式响应块内容

id

String

智谱 AI 开放平台生成的任务订单号,调用请求结果接口时请使用此订单号

created

Long

请求创建时间,是以秒为单位的 Unix 时间戳

choices

List

当前对话的模型输出内容

usage

Object

结束时返回本次模型调用的 tokens 数量统计。

到了这里,关于智谱AI:ChatGLM API调用说明的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • ChatGLM Java SDK:智谱 AI 通用语言模型 Zhipu ChatGLM Java SDK

    此项目是由 Java 的 JDK11 的长期版本开发,设备环境需要 JDK = 11 Java Maven Dependency (BlueChatGLM)调用 Java Gradle (BlueChatGLM)调用 Java sbt (BlueChatGLM)调用 1.1 NTP 网络时间服务器 它通过互联网或局域网上的时间服务器来提供高精度,高安全的时间信息,确保所有设备都使用相同的时间是关

    2024年02月20日
    浏览(36)
  • 【LangChain学习之旅】—(7) 调用模型:使用OpenAI API还是微调开源Llama2/ChatGLM?

    Reference:LangChain 实战课 之前的内容讲了提示工程的原理以及 LangChain 中的具体使用方式。今天,我们来着重讨论 Model I/O 中的第二个子模块,LLM。 让我们带着下面的问题来开始这一节课的学习。大语言模型,不止 ChatGPT 一种。调用 OpenAI 的 API,当然方便且高效,不过,如果我

    2024年02月01日
    浏览(66)
  • 清华智谱AI大模型ChatGLM-Pro申请开通教程

    清华智谱AI大模型ChatGLM-Pro申请开通教程 ChatGLM系列模型,包括ChatGLM-130B和ChatGLM-6B模型,支持相对复杂的自然语言指令,并且能够解决困难的推理类问题。其中,ChatGLM-6B模型吸引了全球超过 160 万人下载安装,该模型在 Hugging Face (HF) 全球大模型下载榜中连续 12 天位居第一名,

    2024年02月04日
    浏览(41)
  • AI大模型探索之路-应用篇16:GLM大模型-ChatGLM3 API开发实践

    目录 一、ChatGLM3-6B模型API调用 1. 导入相关的库 2. 加载tokenizer 3. 加载预训练模型 4. 实例化模型 5.调用模型并获取结果 二、OpenAI风格的代码调用 1. Openai api 启动 2. 使用curl命令测试返回 3. 使用Python发送POST请求测试返回 4. 采用GLM提供的chat对话方式 5. Embedding处理 三、Functio

    2024年04月23日
    浏览(45)
  • 【chatglm3】(4):如何设计一个知识库问答系统,参考智谱AI的知识库系统,

    https://www.bilibili.com/video/BV16j411E7FX/?vd_source=4b290247452adda4e56d84b659b0c8a2 【chatglm3】(4):如何设计一个知识库问答系统,参考智谱AI的知识库系统,学习设计理念,开源组件 https://open.bigmodel.cn/knowledge 知识配置: 项目地址是: https://github.com/chatchat-space/Langchain-Chatchat gitee搬运的项

    2024年02月05日
    浏览(48)
  • Java | 智谱API调用实践

    智谱AI(Zhipu AI)是一家致力于人工智能技术研发和应用的公司。该公司由清华大学背景的团队创立,专注于大模型技术的研究与推广。智谱AI在人工智能领域取得了显著成就,其发布的自研大模型GLM-4等产品。 进入官网(https://maas.aminer.cn/),注册账号实名后,将会赠送 有效

    2024年04月16日
    浏览(34)
  • 关于阿里云的API接口调用使用说明以及使用艾格瑞特API接口获取验证码的方法

    需要在API网关控制台创建APP,然后将API授权给APP即可。 使用详情页给的请求示例!!!(替换示例中的AppCode)就可以了 本发明涉及互联网技术领域,具体涉及一种API自动管理和SDK、文档自动生成方法。 背景技术: 伴随着互联网时代的多元化发展,更多技术人员将精力投入

    2023年04月18日
    浏览(47)
  • 调用智能Ai画图在线生成图片生成视频的工具集API说明等

    四款文字生成视频的智能软件 1、 Lumen5:是一种自动化视频制作工具,可以利用其强大的AI技术,自动对文本进行分析,并提供适当的图像、视频剪辑和音乐,生成令人印象深刻的视频。它适用于制作社交媒体广告、营销视频和品牌故事等。。用户只需输入文本和选择相关图

    2024年02月01日
    浏览(43)
  • Python ❀ 使用代码实现API接口调用详解

    本文主要讲解常用API接口如何使用python实现。 API :Application Programming Interface,是 应用程序开发接口 的缩写,意思是一些预设好的函数或方法,这些预设好的函数或方法允许第三方程序通过网络来调用数据或提供基于数据的服务。 Python运行环境:python3.10.2 + PyCharm 使用 pip

    2024年01月18日
    浏览(48)
  • Python调用API接口的几种方式

    Python调用API接口的几种方式 相信做过自动化运维的同学都用过API接口来完成某些动作。API是一套成熟系统所必需的接口,可以被其他系统或脚本来调用,这也是自动化运维的必修课。 本文主要介绍python中调用API的几种方式,下面是python中会用到的库。 - urllib2 - httplib2 - pycu

    2024年02月12日
    浏览(48)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包