三个开源大模型(chatglm2-6B, moss, llama)-chatglm2的测试

这篇具有很好参考价值的文章主要介绍了三个开源大模型(chatglm2-6B, moss, llama)-chatglm2的测试。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

chatglm2-6B 是清华大学开源的一款支持中英双语的对话语言模型。经过了 1.4T 中英标识符的预训练与人类偏好对齐训练,具有62 亿参数的 ChatGLM2-6B 已经能生成相当符合人类偏好的回答。结合模型量化技术,用户可以在消费级的显卡上进行本地部署(INT4 量化级别下最低只需 6GB 显存)。

在个人PC上安装 chatglm2-6B后的测试情况给大家介绍一下。分别从用户身份、编程计算能力、和推理能力等几个方面进行测试。和chatgpt3.5做一个对比,在中文方面咯有优势,在推理能力上稍弱一些。

比如以不同的角色来写一首诗

如果你是一个大学生,写一首春天的诗

ChatGLM:

春意盎然,世界新生,

嫩绿的嫩芽,悄悄地生长。

缤纷的花朵,绽放的盛况,

春雨的滋润,细心的呵护。

远处的山林,柔和的微风,

拂过脸庞的温暖,

似乎在呢喃,也在呢喃。

春天的大学,充满了生机,

知识的海洋,探索的乐园,

每一个角落,都充满了光芒,

每一个灵魂,都充满了希望。

青春在这里,绽放在这里,

愿我们都能,在这里收获果实。

春天的大学,春天的青春,

愿我们都能,在这里放飞自己的梦想。

如果你是一个小学生,写一首春天的诗

ChatGLM:

万物生长,鸟儿歌唱,

春风拂面,花儿绽放。

太阳升起,光芒四溢,

微风拂过,心情欢畅。

大自然恩赐一切,

让我们享受,欣欣向荣。

春天是个宝藏,

蕴藏无限奥秘。

让我们一起,共同探索,

感受春天的美好!

翻译:

Spring has come, and all things are awakening,

Misty rain, nourishing the earth.

All things grow, birds sing,

Spring breeze, flowers bloom.

The sun rises, and the light shines bright,

微风吹过, and one is happy and bright.

Nature has given us everything we need,

Let us enjoy, and flourish together.

Spring is a treasure trove,

A secret world of endless wonders.

Let’s explore together, and see,

How nature’s beauty blooms this year.

计算和编程能力测试

5*4/10 等于多少

ChatGLM:5*4/10 = 20/10 = 2

用户:用python 写一段程序, 计算 5*4/10 等于多少

ChatGLM:以下是一段 Python 程序,可以计算并输出 5*4/10 的结果:


# 计算并输出 5*4/10 的结果

result = 5 * 4 / 10

print(result)

输出结果为:


2

中文推理能力测试

猴子数量计算测试

用户:树上有7只猴子, 地上有1只猴子 , 一共几只猴子?

ChatGLM:树上有7只猴子,地上有1只猴子,一共是8只猴子。

用户:地上1只猴子被赶走了,还剩下几只猴子?

ChatGLM:如果地上最后一只猴子被赶走了,那么还剩下6只猴子。文章来源地址https://www.toymoban.com/news/detail-676233.html

到了这里,关于三个开源大模型(chatglm2-6B, moss, llama)-chatglm2的测试的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 【AI】RTX2060 6G Ubuntu 22.04.1 LTS (Jammy Jellyfish) 部署chatglm2-6b 开源中英双语对话模型

    项目地址 chatglm2-6b 下载模型 创建测试项目 创建虚拟环境安装依赖 完整的venv环境 main.py 执行 python进程cpu使用率100.3%持续了很长时间,没有启用多线程?

    2024年01月20日
    浏览(52)
  • ChatGLM2-6B、ChatGLM-6B 模型介绍及训练自己数据集实战

    介绍 ChatGLM-6B是开源的文本生成式对话模型,基于General Language Model(GLM)框架,具有62亿参数,结合模型蒸馏技术,实测在2080ti显卡训练中上(INT4)显存占用 6G 左右, 优点 :1.较低的部署门槛: FP16 半精度下,ChatGLM-6B 需要至少 13GB 的显存进行推理,结合模型量化技术,一需求可以进一步

    2024年02月12日
    浏览(59)
  • AIGC - ChatGLM大模型:ChatGLM2-6B模型推理部署

    如果你要问我为什么直接部署ChatGLM2的模型? 因为当我在8月份在上海召开的全球人工智能大会上了解到清华-智谱发布的ChatGLM模型时,它已经发布了新的版本ChatGLM2,并且推理的效果提升了不少,那么本着只要最好的原则,我就直接上手先玩新版本了。 作为AIGC方面的小白来说

    2024年02月06日
    浏览(48)
  • 第五篇-ChatGLM2-6B模型下载

    可以使用如下代码下载 创建下载环境 编写代码 down_glm2.py snapshot_download其他参数 只允许下载部分类型的文件(以JSON为例) allow_patterns=‘*.json’, 不允许下载部分类型的文件(以JSON为例) ignore_patterns=[‘*.json’] 执行下 第一篇-ChatGLM-webui-Windows安装部署-CPU版 第二篇-二手工作站

    2024年02月14日
    浏览(78)
  • 使用Triton部署chatglm2-6b模型

    NVIDIA Triton Inference Server是一个针对CPU和GPU进行优化的云端和推理的解决方案。 支持的模型类型包括TensorRT、TensorFlow、PyTorch(meta-llama/Llama-2-7b)、Python(chatglm)、ONNX Runtime和OpenVino。 NVIDIA Triton Server是一个高性能的推断服务器,具有以下特点: 1. 高性能:Triton Server为使用GPU进行推

    2024年02月08日
    浏览(55)
  • ChatGLM2-6B 大语言模型本地搭建

    ChatGLM2-6B 是清华 NLP 团队于不久前发布的中英双语对话模型,它具备了强大的问答和对话功能。拥有最大32K上下文,并且在授权后可免费商用! ChatGLM2-6B的6B代表了训练参数量为60亿,同时运用了模型量化技术,意味着用户可以在消费级的显卡上进行本地部署(INT4 量化级别下

    2024年01月21日
    浏览(57)
  • ChatGLM2-6B模型推理流程和模型架构详解

    提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档 因为本人在做大模型优化方面的研究,之前拆了ChatGLM2的源代码,看看能从哪些地方深入。结果刚拆完没多久,昨天,也就是10 月 27 日,智谱 AI 在 2023 中国计算机大会(CNCC)上发布了自研第三代对话大模

    2024年02月03日
    浏览(54)
  • 【ChatGLM_01】ChatGLM2-6B本地安装与部署(大语言模型)

    ChatGLM2-6B是一个开源的、支持中英双语的对话语言模型,基于General Language Model (GLM)架构。 ChatGLM2-6B具备的能力: 自我认知:“介绍一下你的优点” 提纲写作:“帮我写一个介绍ChatGLM的博客提纲” 文案写作:“写10条热评文案” 信息抽取:‘从上述信息中抽取人、时间、事件

    2024年02月14日
    浏览(59)
  • 从零开始学AI:ChatGLM2-6B 部署测试

    ChatGLM2-6B 是开源中英双语对话模型 ChatGLM-6B 的第二代版本,在保留了初代模型对话流畅、部署门槛较低等众多优秀特性的基础之上,ChatGLM2-6B 引入了如下新特性: 更强大的性能:基于 ChatGLM 初代模型的开发经验,我们全面升级了 ChatGLM2-6B 的基座模型。ChatGLM2-6B 使用了 GLM 的混

    2024年04月28日
    浏览(39)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包