AI 绘画Stable Diffusion 研究(十七)SD lora 详解(上)

这篇具有很好参考价值的文章主要介绍了AI 绘画Stable Diffusion 研究(十七)SD lora 详解(上)。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。


大家好,我是风雨无阻。


本期内容:

  • Lora的原理是什么?
  • Lora如何下载安装?
  • Lora如何使用?

大家还记得 AI 绘画Stable Diffusion 研究(三)sd模型种类介绍及安装使用详解 这篇文章中,曾简单介绍了Lora的安装和使用吗 ?


但是我们并不清楚LORA 的原理是什么?以及使用过程中有什么技巧 ?


其实LORA 与 embedding 、Hypernetwork 在本质上类似,不过因为携带着大量的训练数据,所以 LORA 对人物和细节特征的复刻更加细腻(效果最好)、使用频率也是最高的。


因此我们在这里将重点介绍 LORA 模型相关的知识:包含LORA模型的原理、安装、使用、Lora模型的类型。

由于篇幅原因,这里将分为上、下两节进行详细讲解。

一、LORA 的原理


1、Lora是什么 ?

LORA,英文全称Low-Rank Adaptation of LargeLanguage Models,直译为大语言模型的低阶适应。这是微软的研究人员为了解决大语言模型微调而开发的一项技术。


LORA是一种在消耗更少内存的情况下,加速大型模型训练的训练方法,在stable diffusion中它允许使用低阶适应技术来快速微调扩散模型。简而言之,LoRA训练模型可以更轻松地针对不同概念(例如角色或特定风格)进行模型训练。这些经过训练的模型可以被导出并供其他人使用。


LORA模型是小型的stable diffusion模型,对checkpoint模型 cross-attention layers(交叉注意力层)进行了较小的更改,但是它的体积只有checkpoint的1/100到1/10,文件大小一般在2-500MB之间。


AI 绘画Stable Diffusion 研究(十七)SD lora 详解(上),AI绘画,人工智能,stable diffusion,AI作画,ai绘画,Lora


从上图我们可以看到 LORA 对模型产生作用的环节是在 Noise predictor

下图是对上图放大以后的内部结构,LORA 是对 crossattention 进行更改。


AI 绘画Stable Diffusion 研究(十七)SD lora 详解(上),AI绘画,人工智能,stable diffusion,AI作画,ai绘画,Lora


在上一篇文章中,我们已经对比了三者的区别,感兴趣的朋友,请前往查看AI 绘画Stable Diffusion 研究(十六)SD Hypernetwork详解。


二、LORA 的下载安装


1、打开c站筛选LORA模型

点击右侧 ->漏斗图标 ,下拉菜单中选择 LORA


AI 绘画Stable Diffusion 研究(十七)SD lora 详解(上),AI绘画,人工智能,stable diffusion,AI作画,ai绘画,Lora


2、选择搜索结果中,喜欢的lora 模型进行下载


这里以 原神lora 模型为例进行演示:


AI 绘画Stable Diffusion 研究(十七)SD lora 详解(上),AI绘画,人工智能,stable diffusion,AI作画,ai绘画,Lora


下载完成后,会得到 Eula.safetensors 文件

AI 绘画Stable Diffusion 研究(十七)SD lora 详解(上),AI绘画,人工智能,stable diffusion,AI作画,ai绘画,Lora


3、 安装 lora 模型


将下载后的Eula.safetensors 文件,拷贝到 Lora 目录:

\sd-webui-aki-v4.2\models\Lora

AI 绘画Stable Diffusion 研究(十七)SD lora 详解(上),AI绘画,人工智能,stable diffusion,AI作画,ai绘画,Lora


4、 下载安装lora 模型对应的 chekpoint 模型


在右侧可以看到 lora 模型对应的 chekpoint 模型 是 xxmix9realistic_v40 。

直接点击chekpoint 下方的“下载”按钮进行下载。


AI 绘画Stable Diffusion 研究(十七)SD lora 详解(上),AI绘画,人工智能,stable diffusion,AI作画,ai绘画,Lora


下载完成,会得到 xxmix9realistic_v40.safetensors 文件。

AI 绘画Stable Diffusion 研究(十七)SD lora 详解(上),AI绘画,人工智能,stable diffusion,AI作画,ai绘画,Lora


5、 安装 chekpoint 模型

将 xxmix9realistic_v40.safetensors 文件 拷贝到Stable-diffusion 目录:


\sd-webui-aki-v4.2\models\Stable-diffusion

AI 绘画Stable Diffusion 研究(十七)SD lora 详解(上),AI绘画,人工智能,stable diffusion,AI作画,ai绘画,Lora


安装完成后,重启 Stable diffusion 使其生效。


三、LORA 的使用


LORA的使用方法与Embeddings和Hypernetwork一样,为了方便新朋友的理解,这里详细演示一下步骤。


1、选择刚才安装的 chekpoint 模型

AI 绘画Stable Diffusion 研究(十七)SD lora 详解(上),AI绘画,人工智能,stable diffusion,AI作画,ai绘画,Lora


2、输入参数

  • 正向提示词

    (((best quality, masterpiece, good anatomy))), eula_in_genshin, cowboy shot, 1girl, blue short hair, black hairband,a leotard with a white top and black bottom, white long sleeves, blue necktie, jewelry on the shoulder, upper body,outdoors, castle, streets, green plants, flowers,
    

AI 绘画Stable Diffusion 研究(十七)SD lora 详解(上),AI绘画,人工智能,stable diffusion,AI作画,ai绘画,Lora


  • 反向提示词

    ng_deepnegative_v1_75t, (badhandv4:1.5), (worst quality:2),(lower eyelashes:2), (low quality:2), (normal quality:2),(holding:2),(gloves:2),(blue gloves:2),(black gloves:2),lowres, bad anatomy, bad hands, ((monochrome)), ((grayscale)) ,watermark
    

AI 绘画Stable Diffusion 研究(十七)SD lora 详解(上),AI绘画,人工智能,stable diffusion,AI作画,ai绘画,Lora


  • 采样方法:DPM++ 2M Karras

  • 迭代步数:40

  • 随机种子:1831064945

  • CFG Scale:21


AI 绘画Stable Diffusion 研究(十七)SD lora 详解(上),AI绘画,人工智能,stable diffusion,AI作画,ai绘画,Lora


3、重点来了,选择刚安装的 lora 模型

(1)、点击生成按钮下方的红色图标


AI 绘画Stable Diffusion 研究(十七)SD lora 详解(上),AI绘画,人工智能,stable diffusion,AI作画,ai绘画,Lora


切换到lora模型标签

AI 绘画Stable Diffusion 研究(十七)SD lora 详解(上),AI绘画,人工智能,stable diffusion,AI作画,ai绘画,Lora


(2)、lora 标签页面选择 刚安装的模型 Eula


AI 绘画Stable Diffusion 研究(十七)SD lora 详解(上),AI绘画,人工智能,stable diffusion,AI作画,ai绘画,Lora


此时,正向提示词输入框中会自动添加 LORA 模型,如下:

AI 绘画Stable Diffusion 研究(十七)SD lora 详解(上),AI绘画,人工智能,stable diffusion,AI作画,ai绘画,Lora


(3)、点击生成按钮 ,查看效果

AI 绘画Stable Diffusion 研究(十七)SD lora 详解(上),AI绘画,人工智能,stable diffusion,AI作画,ai绘画,Lora


(4)、使用技巧:

  • 我们可以调整权重来调高或调低效果

    将权重设置为 0 会禁用 LoRA 模型,可以在 0 和 1 之间调整样式效果。

    需要注意的是,每个 LORA 模型对输出图像的权重设置是非常重要的。权重设置越大,对画面的影响因素就越浅。通常情况下,权重 应该控制在 0.7-1 之间。如果权重过高,会大幅度影响出图的质量。


  • 通常来说,每个 LORA 模型都有对应的底膜和触发词汇。我们可以查看 LORA 作者产出的相关图片,从中获取模型信息,并从中选择一些提示词和排除词来指定生成图像的方向。


例如这个模型的介绍页面就有触发词的说明:

AI 绘画Stable Diffusion 研究(十七)SD lora 详解(上),AI绘画,人工智能,stable diffusion,AI作画,ai绘画,Lora


触发词为:

eula_in_genshin, cowboy shot, 1girl, blue medium hair, black hairband,a leotard with a white top and black bottom, white long sleeves, blue necktie, jewelry on the shoulder, black thighhighs, high heels,

也就是我们正向提示词里面的内容:

AI 绘画Stable Diffusion 研究(十七)SD lora 详解(上),AI绘画,人工智能,stable diffusion,AI作画,ai绘画,Lora


  • 与Embeddings类似,可以同时使用多个LoRA模型,还可以将它们与embeddings一起使用。

  • 在 AUTOMATIC1111 中,LoRA 短语不是提示词的一部分,LoRA模型应用后将被移除,这意味着不能将提示词语法使用在lora模型短语上。

好了,今天的内容就介绍到这里,下一篇,我们将继续介绍Lora 模型的类型,敬请关注。文章来源地址https://www.toymoban.com/news/detail-683500.html


到了这里,关于AI 绘画Stable Diffusion 研究(十七)SD lora 详解(上)的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • AI 绘画Stable Diffusion 研究(五)sd文生图功能详解(下)

    大家好,我是风雨无阻。 上一篇文章详细介绍了sd文生图的功能及使用注意事项,感兴趣的朋友可以前往查看:AI 绘画Stable Diffusion 研究(四)sd文生图功能详解(上) 。 那今天这篇文章,我们接着介绍 sd文生图功能,主要是 sd 提示词prompt 。 大家都知道,提示词是整个Sta

    2024年02月14日
    浏览(45)
  • AI 绘画Stable Diffusion 研究(三)sd模型种类介绍及安装使用详解

    本文使用工具,作者:秋葉aaaki 免责声明: 工具免费提供 无任何盈利目的 大家好,我是风雨无阻。 今天为大家带来的是 AI 绘画Stable Diffusion 研究(三)sd模型种类介绍及安装使用详解。 目前,AI 绘画Stable Diffusion的各种模型层出不穷,这些模型都有什么作用?又该怎么安装使用

    2024年02月12日
    浏览(48)
  • AI 绘画Stable Diffusion 研究(十一)sd图生图功能详解-美女换装

    免责声明: 本案例所用安装包免费提供,无任何盈利目的。 大家好,我是风雨无阻。 为了让大家更直观的了解图生图功能,明白图生图功能到底是干嘛的,能做什么事情?今天我们继续介绍图生图的实用案例-美女换装的制作。 对于新朋友,想详细了解Stable Diffusion 的话,请

    2024年02月12日
    浏览(50)
  • AI 绘画Stable Diffusion 研究(十)sd图生图功能详解-精美二维码的制作

    免责声明: 本案例所用安装包免费提供,无任何盈利目的。 大家好,我是风雨无阻。 为了让大家更直观的了解图生图功能,明白图生图功能到底是干嘛的,能做什么事情?今天我们继续介绍图生图的实用案例-精美二维码的制作。 对于新朋友,想详细了解Stable Diffusion 的话,

    2024年02月09日
    浏览(47)
  • AI 绘画Stable Diffusion 研究(九)sd图生图功能详解-老照片高清修复放大

    大家好,我是风雨无阻。 通过前面几篇文章的介绍,相信各位小伙伴,对 Stable Diffusion 这款强大的AI 绘图系统有了全新的认知。我们见识到了借助 Stable Diffusion的文生图功能,利用简单的几个单词,就可以生成完美的图片。本期我们一起来研究 Stable Diffusion图生图功能这个宝

    2024年02月12日
    浏览(79)
  • AI 绘画Stable Diffusion 研究(六)sd提示词插件

    大家好,我是风雨无阻。 今天为大家推荐一款可以有效提升我们使用 Stable Diffusion WebUI 效率的插件, 它就是 prompt-all-in-one, 它不但能直接将 WebUI 中的中文提示词转换为英文,还能一键为加权重,更能建立常用提示词库,这对于英语不熟练的朋友非常实用。 今天的内

    2024年02月13日
    浏览(50)
  • AI 绘画Stable Diffusion 研究(一)sd整合包v4(1)

    可选ControlNet模型 :可以不用下载,这里只是提供,按需下载,安装方法参考我的另一篇教程:AI 绘画Stable Diffusion 研究(二)sd模型ControlNet1.1 介绍与安装。 启动器运行依赖-donet-6.0.11.exe: 启动器运行依赖,以前没使用过启动器的需要安装。 sd-webui-aki-v4.zip: 整合包 如图: 二、

    2024年04月17日
    浏览(36)
  • 秋神SD整合包 AI绘画 Stable Diffusion 整合包 V4版 解压即用 AI绘图模型LoRA + 最新

    「 无套路!文末提供下载方式 」 2024年绘画圈最火的软件 那妥妥的就Stable Diffution V4升级版无需安装,直接解压就能用 (在此要感谢秋葉aaaki大佬的分享! )** 比之前版本的更加智能、高效和易操作 V4加强版小白也能轻易上手! Stable Diffusion(简称SD)是一种生成式人工智能

    2024年03月14日
    浏览(64)
  • AI 绘画Stable Diffusion 研究(一)sd整合包v4.2 版本安装说明

    部署包作者:秋葉aaaki 免责声明: 本安装包及启动器免费提供 无任何盈利目的 大家好,我是风雨无阻。众所周知,StableDiffusion 是非常强大的AI绘图工具,需要详细了解StableDiffusion的朋友,可查看我之前的这篇文章: 最近大火的两大AI绘图工具 Midjourney VS StableDiffusion。 那么从本

    2024年02月15日
    浏览(56)
  • AI 绘画Stable Diffusion 研究(十三)SD数字人制作工具SadTlaker使用教程

    免责声明: 本案例所用安装包免费提供,无任何盈利目的。 大家好,我是风雨无阻。 想必大家经常看到,无论是在产品营销还是品牌推广时,很多人经常以数字人的方式来为自己创造财富。而市面上的数字人收费都比较昂贵,少则几千,多则上万。 那么如何才能免费制作属

    2024年02月12日
    浏览(46)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包