指示:
现在您可以在计算机本地运行 ChatGPT 和 LLaMA-2。Meta刚刚发布了这个拥有700亿参数的模型,比任何其他Open模型都要好,甚至击败了Falcon 40B!
为此,您需要打开终端,转到项目文件夹,然后 git clone llama.cpp 项目
$ git clone https://github.com/ggerganov/llama.cpp
现在进入该文件夹并使用 make 构建项目:
$ cd llama.cpp
$ make
然后您需要从 Meta 网站请求访问该模型,并接受使用它的条款和条件,速度非常快
收到接受电子邮件后,安装 git-lfs 并将 llama-2–13b-chat 模型从 Hugging Face 下载到本地 llama.cpp/models 文件夹
$ brew install git-lfs
$ git-lfs install
$ cd ./models
$ git clone https://huggingface.co/meta-llama/Llama-2-13b-chat
现在确保您已经安装了 3.10 版本的 python,然后创建一个虚拟环境,激活它并使用 pip 安装所需的 python 库文章来源:https://www.toymoban.com/news/detail-632101.html
$ cd ..
$ python3 — version
$ python3 -m venv venv
$ source venv/bin/activate
$ pip3 install -r requirements.txt
为了在我们的小型笔记本电脑上运行这个巨大的 LLM,我们需要使用以下命令文章来源地址https://www.toymoban.com/news/detail-632101.html
到了这里,关于ChatGPT 已经成为过去,在您的笔记本电脑中免费运行 Llama 2(源码含模型)的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!