1. Toy模板网首页
  2. > Toy博客

单个消费级GPU笔记本win电脑测试LLaMA模型

10月前 作者：StringEast 分类：Toy博客 阅读(54) 违法举报

这篇具有很好参考价值的文章主要介绍了单个消费级GPU笔记本win电脑测试LLaMA模型。希望对大家有所帮助。如果存在错误或未考虑完全的地方，请大家不吝赐教，您也可以点击"举报违法"按钮提交疑问。

1、LLaMa模型代码：

      GitHub - facebookresearch/llama: Inference code for LLaMA models

      不同模型对参数规模要求不同，有7B、13B、30B(33B)和65B四个数据规模。

Model MP
7B 1
13B 2
30B（33B) 4
65B 8

2、环境检查

  （1）、检查CUDA环境是否已安装（没有的话先安装CUDA）：

单个消费级GPU笔记本win电脑测试LLaMA模型

 （2）、检查是否已安装Pytorch（没有的话先安装Pytorch）：

单个消费级GPU笔记本win电脑测试LLaMA模型

 

3、LLaMa模型下载：

  （1）、7B模型：

      nyanko7/LLaMA-7B at main (huggingface.co)

  （2）、13B模型：文章来源地址https://www.toymoban.com/news/detail-482409.html

到了这里，关于单个消费级GPU笔记本win电脑测试LLaMA模型的文章就介绍完了。如果您还想了解更多内容，请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章，希望大家以后多多支持TOY模板网！

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处： 如若内容造成侵权/违法违规/事实不符，请点击违法举报进行投诉反馈，一经查实，立即删除！

分享到：
领支付宝红包 赞助服务器费用

相关文章

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包，优惠每天领

二维码1

领取红包

二维码2

领红包