学习AI第一课:本地部署AI大模型

这篇具有很好参考价值的文章主要介绍了学习AI第一课:本地部署AI大模型。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

前言

AI 大模型发展到现在,国内外都有在线和离线版本,那如何在自己本地部署大模型呢?本文分享了一种简单的办法,一起来看看吧。我们经常能看到某某公司开源了一款 AI 大模型的新闻。这些模型都有着超强的能力,从生成大段的文字、逼真的图像,到理解和翻译不同语言,再到创造出令人叹为观止的音乐和艺术作品。

对于我们普通人来说,这些高科技听起来不仅遥不可及,而且似乎与我们的日常生活无关,他们像是只有那些天才和大神们才能操作和使用的。

但是这些强大的 AI 模型,并不止是大神们才能接触和使用,实际上,这些模型的使用门槛其实不高。任何对 AI 感兴趣的人都可以轻松获取和使用这些模型,就像搭乐高积木一样,将它们组合起来,创造出你心目中的应用。

这一切既不需要深厚的技术背景,也不需要复杂的编程技能。只要你有想法和一丢丢的学习,这些强大的模型就能成为你随意操作的「乐高」,搭建出你设想的样子。

下面我们一起来看下,如何把模型跑起来~

一、找模型

首先,第一步我们得知道去哪里找到这些模型,很简单,有一个神奇的网站叫:Hugging Face(https://huggingface.co/),这个网站本质就是一个大模型的托管网站,目前这个网站托管的 AI 模型超过 57 万。一些热门的模型,比如 meta 的 Llama 系列模型,google 的 Gemini 等都托管在这个网站上,任何人都可以访问并使用它们。

怎么创建本地ai模型,应用推广,人工智能,学习

假设,我们现在要找一个模型,可以实现读图的功能,就是给它一张图片,它可以告诉我这个图片里的主要内容是什么。这个模型的逻辑如下图,非常简单,输入一张图片,输出一段图片的文本描述。

这个模型本质上就是一个图片到文本的模型,我们在 Hugging Face 里选择 Image-to-Text 的分类,然后从得到的结果里看排名第一个的模型,就是下图红框圈选的:Salesforce/blip-image-captioning-large,这个就是模型的名字。

点击模型进行模型的详情页,这里有模型的详细原理介绍,以及在线试用的功能,可以在这里直接体验模型的效果。

怎么创建本地ai模型,应用推广,人工智能,学习

找到了模型之后,我们接下来第二步,如何部署和使用模型。

二、部署和使用

模型的使用涉及到模型的加载、预处理、模型推理和后处理步骤等,听起来似乎很复杂,但是不用担心,Hugging Face 还给我们提供了一套使用的工具,那就是 Transformers 库中的 pipeline 方法,pipeline 将前面提到的模型使用所有步骤封装成一个简单的函数调用。我们只需要使用这个函数方法,指定需要完成的任务类型,当然我们也可以指定特定的模型和配置来定制使用。Transformers 库是由 Hugging Face 公司开发的一个开源 Python 库,里面除了 pipeline 外,还有很多其它的方法和工具,这里就不细说了。

具体的使用其实就是几行 Python 代码就可以搞定,非常简单。这里额外说下,我们经常在使用写 python 的时候,需要安装编译器和配置环境,往往这些环境配置就已经消耗了我们的所有激情了。这里,感谢 google 大大提供的一个在线编程工具 colab,直接解决所有安装和环境问题。

Colaboratory 界面如下,就是一个可以在线写 python 代码的「笔记本」。
怎么创建本地ai模型,应用推广,人工智能,学习

我们新建一个文件,然后输入第一行代码:

pip install transformers

就这样一行代码,Transformers 库就安装好了。后面具体的操作,点击上传图片。

随后编写的代码和解释如下,懂一点点 python 和编程的人,应该就能写出来。写完后点击代码侧边的运行按钮即可。

怎么创建本地ai模型,应用推广,人工智能,学习

输出的文案是:arafed woman sitting on the ground with a camera and a tripod. (一位戴着头巾的女性坐在地上,旁边放着相机和三脚架。)基本识别出来图片中的主要内容。

到此,我们的第一个模型的选择和使用的 demo 就完成了。

代码地址如下:https://colab.research.google.com/drive/1NWTircHzljiU2MNCKjA9PpyGJCMcpqmc?usp=sharing

小节

如果我们有更复杂的想法,比如我们可以用得到的图片描述,再用 LLM 模型,帮助编写一个故事脚本,再通过一个文生视频模型,变成图片或者视频,具体的流程如下图所示。
怎么创建本地ai模型,应用推广,人工智能,学习

这些都是可以用一个一个模型拼接出来的。至于如何拼接,后续的文章中会继续介绍。

因此,在 AI 时代来临之际,如果你是一个有想法的产品,那么可以自己通过这些多种多样的模型实现自己的想法。分享一个我看到的有意思的模型实践,利用 codeformer 模型,去除图片的马赛克,大家可以去 huggingface 上体验下,https://huggingface.co/spaces/sczhou/CodeFormer文章来源地址https://www.toymoban.com/news/detail-858395.html

到了这里,关于学习AI第一课:本地部署AI大模型的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • Numpy的学习 第一课 了解以及使用

    1.编辑模式 绿色 2.命令模式 蓝色 查看函数帮助文档命令 help(函数) 单问号与多问号 单问号显示文档 多问号显示文档+代码 3.shift+tab 显示参数 4.运行外部文件 %run +路径,可绝对可相对 这里运行了就相当于方法了,或者是类似于导入库 5.统计时间 %time 无法精确统计 纳秒为0 %time

    2024年01月20日
    浏览(41)
  • 《Go 语言第一课》课程学习笔记(九)

    Go 语言在常量方面的创新包括下面这几点: 支持无类型常量; 支持隐式自动转型; 可用于实现枚举。 Go 语言的常量是一种在源码编译期间被创建的语法元素。这是在说这个元素的值可以像变量那样被初始化,但它的初始化表达式必须是在编译期间可以求出值来的。 Go 常量

    2024年02月12日
    浏览(45)
  • 《Go 语言第一课》课程学习笔记(十一)

    针对程序的分支结构,Go 提供了 if 和 switch-case 两种语句形式;而针对循环结构,Go 只保留了 for 这一种循环语句形式。 if 语句 if 语句是 Go 语言中提供的一种分支控制结构,它也是 Go 中最常用、最简单的分支控制结构。它会根据布尔表达式的值,在两个分支中选择一个执行

    2024年02月11日
    浏览(51)
  • 《Go 语言第一课》课程学习笔记(五)

    Go 语言中有一个特殊的函数:main 包中的 main 函数,也就是 main.main,它是所有 Go 可执行程序的用户层执行逻辑的入口函数。 Go 程序在用户层面的执行逻辑,会在这个函数内按照它的调用顺序展开。 main 函数的函数原型非常简单,没有参数也没有返回值。 Go 语言要求:可执行

    2024年02月12日
    浏览(49)
  • 《Go 语言第一课》课程学习笔记(二)

    在 Go 语言中编写一个可以打印出“hello,world”的示例程序,我们只需要简单两步,一是创建文件夹,二是开始编写和运行。 通常来说,Go 不会限制我们存储代码的位置,建议创建一个可以集合所有项目的根文件夹(比如:~/goprojects),然后将所有的项目都放在里面。 对于

    2024年02月12日
    浏览(44)
  • 《Go 语言第一课》课程学习笔记(十二)

    在 Go 语言中,函数是唯一一种基于特定输入,实现特定任务并可返回任务执行结果的代码块(Go 语言中的方法本质上也是函数)。 在 Go 中,我们定义一个函数的最常用方式就是使用函数声明。 第一部分是 func,Go 函数声明必须以 func 开始。 第二部分是函数名。

    2024年02月11日
    浏览(53)
  • 《Go 语言第一课》课程学习笔记(八)

    Go 语言的类型大体可分为基本数据类型、复合数据类型和接口类型这三种。 其中,我们日常 Go 编码中使用最多的就是基本数据类型,而基本数据类型中使用占比最大的又是数值类型。 Go 语言的整型,主要用来表示现实世界中整型数量等。它可以分为平台无关整型和平台相关

    2024年02月12日
    浏览(56)
  • 《Go 语言第一课》课程学习笔记(十三)

    Go 语言从设计伊始,就不支持经典的面向对象语法元素,比如类、对象、继承,等等,但 Go 语言仍保留了名为“方法(method)”的语法元素。当然,Go 语言中的方法和面向对象中的方法并不是一样的。Go 引入方法这一元素,并不是要支持面向对象编程范式,而是 Go 践行组合

    2024年02月10日
    浏览(41)
  • 【C# Programming】C#第一课(自己学习的笔记)

    目录 一、C# 介绍 1.1 托管代码(Manage Code ) : 1.2 基础类型库 (Base Class Library): 1.3 程序集(Assembly): 1.4 .NET 框架: 1.5 公共中间语言(Common Intermediate Language),简称 IL。 1.6 C#编译器将源代码编译成CIL,从而生成程序集。 1.7 公共语言运行时 (Common Language Runtime ),简称 CLR。 1.8 所

    2024年02月12日
    浏览(41)
  • <HarmonyOS第一课>1·运行Hello World【学习笔记+课后考核】

    其中详细如下: AppScope中存放应用全局所需要的资源文件。         在AppScope,其中有resources文件夹和配置文件app.json5。AppScoperesourcesbase中包含element和media两个文件夹          其中,element文件夹主要存放公共的字符串、布局文件等资源。media存放全局公共的多媒体资

    2024年02月11日
    浏览(47)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包