LaWGPT安装和使用教程的复现版本【细节满满】

这篇具有很好参考价值的文章主要介绍了LaWGPT安装和使用教程的复现版本【细节满满】。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。


前言

LaWGPT 是一系列基于中文法律知识的开源大语言模型。该系列模型在通用中文基座模型(如 Chinese-LLaMA、ChatGLM等)的基础上扩充法律领域专有词表、大规模中文法律语料预训练,增强了大模型在法律领域的基础语义理解能力。LaWGPT是本人尝试使用和微调的第一个法律专业领域的大语言模型,自我感觉该模型很适合作为法律垂直领域大模型的入门级选手,无论是部署配置还是推理微调都十分方便。本文主要介绍如何配置部署LaWGPT和LaWGPT推理基本步骤,希望可以帮助大家使用LaWGPT。

一、下载和部署

1.1 下载

首先执行git clone git@github.com:pengxiao-song/LaWGPT.git下载项目仓库,但是可能会因为网络问题而失败,因此可以直接在Github上下载LawGPT的基本框架。
LaWGPT安装和使用教程的复现版本【细节满满】,大模型安装,NLP,语言模型,nlp,智能法律
之后需要下载权重文件chinese-alpaca-plus-7b-merged和基础模型lawgpt-lora-7b-v2。下载地址为:chinese-llama-7b-merged和lawgpt-lora-7b-v2。下载好之后将基础模型lawgpt-lora-7b-v2放在entity303文件夹中(需要新建),chinese-alpaca-plus-7b-merged放在minlik文件夹中(需要新建)。
LaWGPT安装和使用教程的复现版本【细节满满】,大模型安装,NLP,语言模型,nlp,智能法律

1.2 环境安装

服务器的版本为RTX 3090,内存为24GB。Python版本为3.10,ubuntu的版本为20.04,Cuda的版本为11.6

库名 版本
transformers 4.35.2
cd LaWGPT/
conda create -n lawgpt python=3.10 -y
source activate lawgpt
pip install -r requirements.txt

其中requirements.txt修改如下,其中peft库我是在官网上下载至LaWGPT目录下再进行pip install peft安装的:

accelerate
appdirs
bitsandbytes
black
black[jupyter]
datasets
fire
transformers == 4.35.2
gradio
sentencepiece
wandb
scipy
socksio

1.3 模型推理

模型推理部分我直接是调用了infer.py而不是infer.sh,需要额外安装fire库。infer.py文件中需要自己添加一下base_modellora_weightprompt_template的路径,两个部分别为:

LaWGPT安装和使用教程的复现版本【细节满满】,大模型安装,NLP,语言模型,nlp,智能法律
LaWGPT安装和使用教程的复现版本【细节满满】,大模型安装,NLP,语言模型,nlp,智能法律
成功运行infer.py的截图如下所示:

LaWGPT安装和使用教程的复现版本【细节满满】,大模型安装,NLP,语言模型,nlp,智能法律
LaWGPT安装和使用教程的复现版本【细节满满】,大模型安装,NLP,语言模型,nlp,智能法律


总结

LaWGPT对于专业的法律问题回答能力优秀,希望大家可以通过我的分享来测试它❤️❤️❤️文章来源地址https://www.toymoban.com/news/detail-800424.html

到了这里,关于LaWGPT安装和使用教程的复现版本【细节满满】的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • C/C++自定义类型(2)细节满满!

    该文章的上一篇文章:C/C++自定义类型(1)-CSDN博客 个人主页:仍有未知等待探索_C语言疑难,数据结构,小项目-CSDN博客 专题分栏:C语言疑难_仍有未知等待探索的博客-CSDN博客 目录   一、引言 二、枚举 1、枚举是什么  2、枚举的格式 3、枚举类型的初始化 4、枚举类型中常量

    2024年02月08日
    浏览(31)
  • 【Linux】进度条小程序——深度解剖(细节满满)

    ​​​​​ ​ 前言 大家好吖,欢迎来到 YY 滴 Linux系列 ,热烈欢迎! 本章主要内容面向接触过Linux的老铁,主要内容含 欢迎订阅 YY 滴Linux专栏!更多干货持续更新!以下是传送门! 订阅专栏阅读: YY 的《Linux》系列 ❀❀❀❀❀ 【Linux】Linux环境搭建(新手指南,购买,登录)(

    2024年02月14日
    浏览(38)
  • C/C++文件操作(细节满满,part1)

    个人主页: 仍有未知等待探索_C语言疑难,数据结构,PTA-CSDN博客 专题分栏: C语言疑难_仍有未知等待探索的博客-CSDN博客 目录 一、引言  二、什么是文件  1、程序文件 2、数据文件 3、文件名  4、文件路径  1.相对路径 2.绝对路径 三、文件的打开和关闭  1、文件操作的大体流

    2024年02月08日
    浏览(36)
  • C/C++文件操作(细节满满,part2)

    该文章上一篇:C/C++文件操作(细节满满,part1)_仍有未知等待探索的博客-CSDN博客 个人主页:仍有未知等待探索_C语言疑难,数据结构,小项目-CSDN博客 专题分栏:C语言疑难_仍有未知等待探索的博客-CSDN博客 目录   一、引言 二、文件的顺序 1、输入流和输出流 2、fputc 1.功能

    2024年02月08日
    浏览(57)
  • 【Linux】进度条小程序的深度解剖(细节满满)

    ​​​​​ ​ 前言 大家好吖,欢迎来到 YY 滴 Linux系列 ,热烈欢迎! 本章主要内容面向接触过Linux的老铁,主要内容含 欢迎订阅 YY 滴Linux专栏!更多干货持续更新!以下是传送门! 订阅专栏阅读: YY 的《Linux》系列 ❀❀❀❀❀ 【Linux】Linux环境搭建(新手指南,购买,登录)(

    2024年02月16日
    浏览(34)
  • 怎样在一台电脑安装多个版本的JDK并切换使用?一篇文章教会你所有细节

    目录 1. 下载安装JDK版本 2. 配置环境变量 2. 1 配置环境变量的步骤 2.2 需要注意的细节点 2.3 JDK8,11,17版本切换测试 a . JDK8 下载链接: Java Downloads | Oracle https://www.oracle.com/java/technologies/downloads/#java8-windows b.  这里我先插一句,因为我们要安装多个JDK版本,所以我们最好提前创

    2024年04月16日
    浏览(73)
  • 【数据结构】线性表(顺序存储和链式存储)两种方法,细节满满,保你学会

    ⭐⭐⭐⭐⭐⭐ 🎊专栏【数据结构】 🍔喜欢的诗句:更喜岷山千里雪 三军过后尽开颜。 🎆音乐分享【勋章】 大一同学小吉,欢迎并且感谢大家指出我的问题🥰 ⭐⭐⭐⭐⭐⭐  目录 ⭐定义:  ⭐ 理解: ⭐存储方式 : ⭐顺序存储的优缺点: 优点: 缺点: ⭐链式存储的优

    2023年04月09日
    浏览(39)
  • SQL Server跟踪(Trace)--系统跟踪日志;从小白到大神,文章细节满满,细致到令人发指。

    写在前面的话: 该文章大部分内容是摘抄  https://www.cnblogs.com/zhijianliutang/p/4113911.html 作者只是在该文章的基础上增加了,在实践的过程中,遇到的一些细节; 再此特别感谢作者指尖流淌的无私分享 如果缺省跟踪信息打开,它将在SQL Server启动时自动记录SQL Server启动信息。该

    2023年04月21日
    浏览(41)
  • LaWGPT:一款可以用来维权的AI大模型

    大家好,大模型 fine-tune,在各个领域百花齐放。 上两天发过一篇文章,介绍了一个基于 LLaMA 训练得到的 AI 医生咨询助手。 看不少小伙伴都感兴趣,咱今天再介绍一个法律领域的 LaWGPT。 昨天,都在传,杭州互联网大厂裁员,消息铺天盖地,搞得人心惶惶。 合法裁员,给个

    2024年02月11日
    浏览(42)
  • ubuntu 编译安装支持CUDA的OpenCV+其他opencv细节(需要特定版本gcc)

    在安装完“ linux CUDAtoolkit+cudnn+tensorrt 的安装”之后进行支持cuda的opencv安装 否则报错:CMake Error at modules/dnn/CMakeLists.txt:41 (message): DNN: CUDA backend requires CUDA Toolkit. Please resolve dependency or disable OPENCV_DNN_CUDA=OFF - $ nvcc -v ----- Command \\\'nvcc\\\' not found, but can be installed with: sudo apt install nvid

    2024年02月15日
    浏览(54)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包