本地运行 LLAMA & GPT-3.5-TURBO开源项目

9月前作者：光影3415 分类：Toy博客阅读(51) 违法举报

这篇具有很好参考价值的文章主要介绍了本地运行 LLAMA & GPT-3.5-TURBO开源项目。希望对大家有所帮助。如果存在错误或未考虑完全的地方，请大家不吝赐教，您也可以点击"举报违法"按钮提交疑问。

git：

nomic-ai/gpt4all: gpt4all: an ecosystem of open-source chatbots trained on a massive collections of clean assistant data including code, stories and dialogue (github.com)

下载好源码后，的目录结构：

本地运行 LLAMA & GPT-3.5-TURBO开源项目

视频中说的 chat 目录在： gpt4all-training/chat

下载 gpt4all 使用的模型地址：https://the-eye.eu/public/AI/models/nomic-ai/gpt4all/gpt4all-lora-quantized.bin

模型下载后，将模型拷贝到上面说的chat 目录。

然后在终端中切换目录结构到chat 中。

看到下面几个文件

本地运行 LLAMA & GPT-3.5-TURBO开源项目

根据不同的处理器执行不同的脚本。

我mac 是intel 的，切到 chat 目录执行：./gpt4all-lora-quantized-OSX-intel

就可以看到下面对话了。本地运行 LLAMA & GPT-3.5-TURBO开源项目

下载数据的网站：wikitext · Datasets at Hugging Face

按照这个视频：https://www.youtube.com/watch?v=dlLZUV_SHQE文章来源地址https://www.toymoban.com/news/detail-503421.html

到了这里，关于本地运行 LLAMA & GPT-3.5-TURBO开源项目的文章就介绍完了。如果您还想了解更多内容，请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章，希望大家以后多多支持TOY模板网！

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：如若内容造成侵权/违法违规/事实不符，请点击违法举报进行投诉反馈，一经查实，立即删除！

分享到：

领支付宝红包赞助服务器费用

Azure Machine Learning - Azure OpenAI GPT 3.5 Turbo 微调教程

本教程将引导你在Azure平台完成对 gpt-35-turbo-0613 模型的微调。关注TechLead，分享AI全维度知识。作者拥有10+年互联网服务架构、AI产品研发经验、团队管理经验，同济本复旦硕，复旦机器人智能实验室成员，阿里云认证的资深架构师，项目管理专业人士，上亿营收AI产品研发负

2024年02月04日
浏览(57)
LLMs：OpenAI官方重磅更新——新增GPT-3.5Turbo调和API更新功能

LLMs：OpenAI官方重磅更新——新增GPT-3.5Turbo调和API更新功能导读：2023年8月22日，OpenAI官方发布，开发者现在可以使用自己的数据来定制适用于其用例的 GPT-3.5 Turbo模型。GPT-3.5 Turbo的微调现在已经可用，GPT-4的微调将在今年秋季推出。此更新使开发者能够定制模型，以便为

2024年02月10日
浏览(43)
OpenAI推出GPT-3.5Turbo微调功能并更新API；Midjourney更新局部绘制功能

🦉 AI新闻 🚀 OpenAI推出GPT-3.5Turbo微调功能并更新API，将提供GPT-4微调功能摘要：OpenAI宣布推出GPT-3.5Turbo微调功能，并更新API，使企业和开发者能够定制ChatGPT，达到或超过GPT-4的能力。通过微调，用户可以让模型更好地遵循指令、一致格式化响应，并适应特定品牌需求。此外

2024年02月11日
浏览(45)
[经验分享]gpt-3.5-Turbo|unity中实现http接口调用gpt新接口以及信息处理的实现案例分享

最近openAI发布了目前chatGPT所使用的模型gpt-3.5-Turbo，之前使用了text-davinci-003模型做了一个galgame的AI女友对话的demo。这次趁着新接口的发布，对这个demo也同步更新了模型调用的代码。本篇文章将分享一下，如何在unity里使用UnityWebRequest实现与openAI的接口调用以及信息处理的示例

2024年01月16日
浏览(40)
本地免费GPT4？Llama 2开源大模型，一键部署且无需硬件要求教程

目前扎克布格带来了最新的Llama 2开源NLP大模型，目前有三个版本分别是70亿参数量，130亿参数量和700亿参数量，庞大的数据集和参数量保证了模型的强大，官网宣称性能与gpt4相比不落下风，又因为开源使得我们可以实现本地化gpt4的梦想并且免费！我们可以通过微

2024年02月11日
浏览(62)
更智能、更强大：OpenAI发布升级版gpt-3.5-turbo-0613/16k速度提升，长度飙升4倍

OpenAI开发者平台最近推出了两个引人注目的GPT升级版本：gpt-3.5-turbo-0613和gpt-3.5-turbo-16k。这些新版本带来了一系列令人兴奋的功能和增强，为开发者提供了更加灵活和强大的自然语言处理工具。本文将为您介绍这两个版本的主要特点和优势。 gpt-3.5-turbo-0613和gpt-3.5-turbo-16k的推

2024年02月09日
浏览(65)
本地构建自己的chatgpt已成为可能，国外团队从GPT3.5提取大规模数据完成本地机器人训练，并开源项目源码和模型支持普通在笔记上运行chatgpt

国外团队从GPT3.5提取大规模数据完成本地机器人训练，并开源项目源码和模型支持,普通在笔记上运行chatgpt。下面是他们分享的：收集到的数据、数据管理程序、训练代码和最终模型，以促进开放研究和可重复性。在 2023 年 3 月 20 日至 2023 年 3 月 26 日期间，该团队使用 GPT

2023年04月21日
浏览(62)
全面对比GPT-3.5与LLaMA 2微调

通用大模型虽好，但通过微调得到一个专属大模型不仅可以提高模型的可操控性、输出格式的可靠性和语气的一致性，还能让用户缩短提示长度，加速API调用，降低成本。本文作者Sam L\\\'Huillier对GPT-3.5与LLaMA 2的微调进行了基准测试，以验证手动微调的模型能否以较低的成本接

2024年02月08日
浏览(36)
【极客技术】真假GPT-4？微调 Llama 2 以替代 GPT-3.5/4 已然可行！

近日小编在使用最新版GPT-4-Turbo模型（主要特点是支持128k输入和知识库截止日期是2023年4月）时，发现不同商家提供的模型回复出现不一致的情况，尤其是模型均承认自己知识库达到2023年4月，但当我们细问时，Fake GPT4-Turbo（暂且这样称呼）出现了明显胡编乱造的情况，如下

2024年02月04日
浏览(39)
为什么多数情况下GPT-3.5比LLaMA 2更便宜？

本文旨在为用户选择合适的开源或闭源语言模型提供指导，以便在不同任务需求下获得更高的性价比。通过测试比较 LLaMA-2 和 GPT-3.5 的成本和时延，本文作者分别计算了二者的 1000 词元成本，证明在大多数情况下，选择 GPT-3.5 的成本更低、速度更快。基于上述评估维度，作者

2024年02月05日
浏览(47)