用 llama.cpp 跑通 mixtral MoE 模型

9月前作者：arkohut 分类：Toy博客阅读(30) 违法举报

这篇具有很好参考价值的文章主要介绍了用 llama.cpp 跑通 mixtral MoE 模型。希望对大家有所帮助。如果存在错误或未考虑完全的地方，请大家不吝赐教，您也可以点击"举报违法"按钮提交疑问。

这里是用 llama.cpp 跑通 mixtral MoE 模型视频的笔记哦。文章来源地址https://www.toymoban.com/news/detail-770626.html

主要命令

安装 huggingface_hub: pip install huggingface_hub -U
下载模型 huggingface-cli download TheBloke/Mixtral-8x7B-Instruct-v0.1-GGUF mixtral-8x7b-instruct-v0.1.Q4_K_M.gguf —local_dir $PWD —local_dir_use_symlinks=False
编译 llama.cpp LLAMA_CUBLAS=1 make -j10
运行 ./main -m ~/autodl-tmp/mixtral-8x7b-instruct-v0.1.Q4_K_M.gguf -ngl 999 --color -i -cml -p prompts/chat-with-qwen.txt

相关链接

https://mistral.ai/
https://huggingface.co/docs/huggingface_hub/guides/download
https://github.com/ggerganov/llama.cpp
https://huggingface.co/TheBloke/Mixtral-8x7B-Instruct-v0.1-GGUF

到了这里，关于用 llama.cpp 跑通 mixtral MoE 模型的文章就介绍完了。如果您还想了解更多内容，请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章，希望大家以后多多支持TOY模板网！

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：如若内容造成侵权/违法违规/事实不符，请点击违法举报进行投诉反馈，一经查实，立即删除！

分享到：

领支付宝红包赞助服务器费用

MistralAI发布全球首个MoE大模型-Mixtral 8x7B，创新超越GPT-4

引言 MistralAI，一家法国的初创企业，近期在AI界引发了轰动，刚刚发布了全球首个基于MoE（Mixture of Experts，混合专家）技术的大型语言模型——Mistral-8x7B-MoE。这一里程碑事件标志着AI技术的一个重要突破，尤其是在模型结构和效率上的创新，让它在业界赢得了“超越GPT-4”的

2024年02月04日
浏览(55)
深度学习实战24-人工智能(Pytorch)搭建transformer模型,真正跑通transformer模型，深刻了解transformer的架构

大家好，我是微学AI，今天给大家讲述一下人工智能(Pytorch)搭建transformer模型，手动搭建transformer模型，我们知道transformer模型是相对复杂的模型，它是一种利用自注意力机制进行序列建模的深度学习模型。相较于 RNN 和 CNN，transformer 模型更高效、更容易并行化，广泛应用于神

2023年04月22日
浏览(58)
人工智能 | Llama大模型：与AI伙伴合二为一，共创趣味交流体验

Llama 大模型介绍我们介绍 LLaMA，这是一个基础语言模型的集合，参数范围从 7B 到 65B。我们在数万亿个Token上训练我们的模型，并表明可以专门使用公开可用的数据集来训练最先进的模型，而无需诉诸专有的和无法访问的数据集。特别是，LLaMA-13B 在大多数基准测试中都优于

2024年02月03日
浏览(41)
上海人工智能实验室发布LLaMA-Adapter | 如何1小时训练你的多模态大模型用于下游任务

本文首发于微信公众号 CVHub，未经授权不得以任何形式售卖或私自转载到其它平台，违者必究！ Title: LLaMA-Adapter: Efficient Fine-tuning of Language Models with Zero-init Attention Code: https://github.com/zrrskywalker/llama-adapter PDF: https://arxiv.org/pdf/2303.16199.pdf Instruction-Following 指令跟随方法：是指通过

2024年02月09日
浏览(67)
在人工智能时代，Django + 简单的 HTML + Whisper + mixtral-8x7b-instruct + SQLite 实现了一个 TODO应用

人工智能TODO应用程序演示https://ivan-tolkunov–surukoto-run.modal.run/（警告：该应用程序可能需要长达30秒才能启动）。所有数据在不活动5分钟后重置。试着告诉它：“添加彩虹的每一种颜色”，然后“标记所有提到绿色和紫色之间的待办事项”和“清理完成的待办事项。” 每个人

2024年01月20日
浏览(44)
llama.cpp模型推理之界面篇

目录前言一、llama.cpp 目录结构二、llama.cpp 之 server 学习 1. 介绍 2. 编译部署 3. 启动服务 4、扩展或构建其他的 Web 前端 5、其他在《基于llama.cpp学习开源LLM本地部署》这篇中介绍了基于llama.cpp学习开源LLM本地部署。在最后简单介绍了API 的调用方式。不习惯命令行的同鞋，也

2024年01月19日
浏览(37)
【大模型】大模型 CPU 推理之 llama.cpp

描述 The main goal of llama.cpp is to enable LLM inference with minimal setup and state-of-the-art performance on a wide variety of hardware - locally and in the cloud. Plain C/C++ implementation without any dependencies Apple silicon is a first-class citizen - optimized via ARM NEON, Accelerate and Metal frameworks AVX, AVX2 and AVX512 support for x86 arc

2024年04月14日
浏览(42)
llama.cpp LLM模型 windows cpu安装部署；运行LLaMA-7B模型测试

参考： https://www.listera.top/ji-xu-zhe-teng-xia-chinese-llama-alpaca/ https://blog.csdn.net/qq_38238956/article/details/130113599 cmake windows安装参考：https://blog.csdn.net/weixin_42357472/article/details/131314105 1、下载： 2、编译 3、测试运行参考： https://zhuanlan.zhihu.com/p/638427280 模型下载： https://huggingface.co/nya

2024年02月15日
浏览(52)
利用人工智能模型学习Python爬虫

爬虫是一种按照一定的规则，自动地抓取万维网信息的程序或者脚本。网络爬虫(又称为网页蜘蛛，网络机器人)是其中一种类型。爬虫可以自动化浏览网络中的信息，当然浏览信息的时候需要按照我们制定的规则进行，这些规则我们称之为网络爬虫算法。 ——使用讯飞星火

2024年02月09日
浏览(44)
llama.cpp LLM模型 windows cpu安装部署；运行LLaMA2模型测试

参考： https://www.listera.top/ji-xu-zhe-teng-xia-chinese-llama-alpaca/ https://blog.csdn.net/qq_38238956/article/details/130113599 cmake windows安装参考：https://blog.csdn.net/weixin_42357472/article/details/131314105 1、下载： 2、编译 3、测试运行参考： https://zhuanlan.zhihu.com/p/638427280 模型下载： https://huggingface.co/nya

2024年02月16日
浏览(41)