Meta 的LLaMA是 GPT的竞争对手，如何在 M1 Mac 上使用 LLaMA

9月前作者：知识大胖分类：Toy博客阅读(49) 违法举报

这篇具有很好参考价值的文章主要介绍了Meta 的LLaMA是 GPT的竞争对手，如何在 M1 Mac 上使用 LLaMA。希望对大家有所帮助。如果存在错误或未考虑完全的地方，请大家不吝赐教，您也可以点击"举报违法"按钮提交疑问。

目录

第 1 步：下载模型
第 2 步：安装依赖
第 3 步：编译 LLaMA CPP
第 4 步：转换模型
Step5：运行模型

语言模型大战

随着人们对人工智能及其在日常生活中的应用越来越感兴趣，Meta 的 LLaMA、OpenAI 的 GPT-3 和 Microsoft 的 Kosmos-1 等众多示例模型正在加入大型语言模型 (LLM) 的行列。此类模型的唯一问题是您无法在本地运行这些模型。到现在为止。感谢Georgi Gerganov和他的llama.cpp项目，可以在没有专用 GPU 的情况下在单台计算机上运行 Meta 的 LLaMA。

在 M1 Mac 上本地运行 LLaMA 涉及多个步骤。我不确定其他平台或其他操作系统，因此在本文中我们只关注上述组合。

第 1 步：下载模型

存储库中打开了一个 PR，它描述了一种替代方式（

https://github.com/facebookresearch/llama/pull/73

无论如何，在你下载了模型（或者更像模型，因为文件夹中有几种不同类型的模型）之后你应该有这样的东西：文章来源地址https://www.toymoban.com/news/detail-559389.html

❯ exa --tree
.
├── 7B
│  ├── checklist.chk
│  ├── consolidated.00.pth
│  └── params.json
├── 13B
│  ├── checklist.chk
│  ├── consolidated.00.pth
│  ├── consolidated.01.pth
│  └── params.json
├── 30B
│  ├── checklist.chk
│  ├── con

到了这里，关于Meta 的LLaMA是 GPT的竞争对手，如何在 M1 Mac 上使用 LLaMA的文章就介绍完了。如果您还想了解更多内容，请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章，希望大家以后多多支持TOY模板网！

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：如若内容造成侵权/违法违规/事实不符，请点击违法举报进行投诉反馈，一经查实，立即删除！

分享到：

领支付宝红包赞助服务器费用

七月论文审稿GPT第2版：从Meta Nougat、GPT4审稿到Mistral、LongLora Llama

如此前这篇文章《学术论文GPT的源码解读与微调：从ChatPaper到七月论文审稿GPT第1版》中的第三部分所述，对于论文的摘要/总结、对话、翻译、语法检查而言，市面上的学术论文GPT的效果虽暂未有多好，可至少还过得去，而如果涉及到论文的修订/审稿，则市面上已有的学术论

2024年02月05日
浏览(33)
在 Mac M1 上运行 Llama 2 并进行训练

Llama 2 是由领先的人工智能研究公司 Meta （前Facebook）开发并发布的下一代大型语言模型 (LLM)。它基于 2 万亿个公共数据 token 进行了预训练，旨在帮助开发人员和企业组织构建基于人工智能的生成工具和用户体验。 Llama 2 在许多外部基准测试中都优于其他开源语言模型，包括

2024年02月03日
浏览(38)
mac m1芯片如何使用gpu

2022年5月，PyTorch官方宣布已正式支持在M1芯片版本的Mac上进行模型加速。官方对比数据显示，和CPU相比，M1上炼丹速度平均可加速7倍。因为 Mac M1芯片不是一个单纯的一个CPU芯片，而是包括了CPU(中央处理器)，GPU(图形处理器)，NPU(神经网络引擎)，以及统一内存单元等众多组件的

2024年02月10日
浏览(54)
ChatGPT 竞争对手谷歌 Bard 开始小范围公测

我们早就看到了通过对话式 AI 使信息和计算更容易获得的潜力。两年前，我们推出了LaMDA（对话应用程序语言模型），这是一种能够进行流畅、多轮对话的对话式 AI 模型，去年，我们推出了AI Test Kitchen，这是一个人们可以学习、动手的新空间-关于 LaMDA 的经验并提供反馈。

2024年02月13日
浏览(35)
作为一本书，“卷”赢竞争对手的最佳姿势是？

🏆作者简介：哪吒，CSDN2022博客之星Top1、CSDN2021博客之星Top2、多届新星计划导师✌、博客专家💪 ，专注Java硬核干货分享，立志做到Java赛道全网Top N。 🏆本文收录于 Java基础教程系列（进阶篇），本专栏是针对大学生、初级Java工程师精心打造，针对Java生态，逐个击破，

2024年02月01日
浏览(23)
用 7 行代码在本地运行 Llama 2！（苹果silicon-mac m1 m2）项目源码含模型

总而言之：注意：7B 型号重量约为 4GB，请确保您的机器上有足够的空间。这是使用 Georgi Gerganov 令人惊叹的llama.cpp项目来运行 Llama 2。它通过TheBloke的 Huggingface 存储库为 Llama 7B Chat 下载一组 4 位优化的权重，将其放入 llama.cpp 中的模型目录中，然后使用 Apple 的 Metal 优化构建

2024年02月15日
浏览(68)
[ 云计算 | AWS ] ChatGPT 竞争对手 Claude 3 上线亚马逊云，实测表现超预期

3月4号，Anthropic 发布了号称现阶段宇宙最强大模型 Claude 3，到底强到什么程度，直接看这张图即可。发文时间点 Claude 3 Sonnet 模型现已在亚马逊云科技的 Amazon Bedrock 正式可用，本文第三节会介绍如何在亚马逊云科技上使用 Claude3 模型。这次发布包括了三个版本：Claude 3 Ha

2024年03月08日
浏览(49)
Meta的 Llama-3 在线使用与下载

2024年4月19日，全球社交巨头Meta在他们的官网，正式发布了开源大模型 Llama-3 ！！该版本包括预训练和指令调整的 Llama 3 语言模型的模型权重和起始代码 - 包括 8B 到 70B 参数！ Llama 3 在 24K GPU 集群上训练，使用了 15T 的数据，提供了 8B 和 70B 的预训练和指令微调版本，可以支

2024年04月27日
浏览(40)
【手把手带你五分钟手机端注册使用GPT的强力对手Claude，免费，无任何成本】

今天刷到了号称是媲美GPT-4的Claude介绍，无需魔法，无任何成本即可以使用，果断尝试注册使用，效果确实不错，关键是免费无成本！！！ Claude使用的是Constitutional AI模型。ChatGPT使用的是GPT模型。看看Claude是如何回答两个模型的区别和对应使用场景的：训练方法不同。Cons

2024年02月05日
浏览(168)
使用 Meta Llama 3 构建人工智能的未来

使用 Meta Llama 3 构建人工智能的未来现在提供 8B 和 70B 预训练和指令调整版本，以支持广泛的应用我们已将 Llama 3 集成到我们的智能助手 Meta AI 中，它扩展了人们完成工作、创造和与 Meta AI 联系的方式。通过使用 Meta AI 进行编码任务和解决问题，您可以亲眼目睹 Llama 3 的性能

2024年04月27日
浏览(43)