Stable Diffusion进阶!姥姥都能看懂的ControlNet超全教程

这篇具有很好参考价值的文章主要介绍了Stable Diffusion进阶!姥姥都能看懂的ControlNet超全教程。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

Stable Diffusion进阶!姥姥都能看懂的ControlNet超全教程

Stable Diffusion进阶!姥姥都能看懂的ControlNet超全教程

前言

Hello,大家好,言川又来写教程啦!!这是一篇继《外婆都能看懂的 Stable Diffusion 入门教程》教程之后的一篇文章,如果你还没有安装并了解 Stable diffusion 这个软件,那么你一定要先去看看入门教程的文章,然后安装 Stable Diffusion。

Stable Diffusion进阶!姥姥都能看懂的ControlNet超全教程

一、Controlnet(图像精准控制)是什么?

ControlNet 是一个用于控制 AI 图像生成的插件。它使用了一种称为"Conditional Generative Adversarial Networks"(条件生成对抗网络)的技术来生成图像。与传统的生成对抗网络不同,ControlNet 允许用户对生成的图像进行精细的控制。这使得 ControlNet 在许多应用场景中非常有用,例如计算机视觉、艺术设计、虚拟现实等等。总之,ControlNet 可以帮助用户精准控制 AI 图像的生成,以获得更好的视觉效果。

Stable Diffusion进阶!姥姥都能看懂的ControlNet超全教程

看着有点复杂是不是,没关系,我给你们总结一下:

在 ControlNet 出现之前,我们在生成图片之前,永远的不知道 AI 能给我们生成什么,就像抽卡一样难受。

ControlNet 出现之后,我们就能通过模型精准的控制图像生成,比如:上传线稿让 AI 帮我们填色渲染,控制人物的姿态、图片生成线稿等等。

这下看懂了吗,就很哇塞,大家可能网上看到一些线稿生成的图片,就是用到的这个 ControlNet,Stable Diffusion 必装的插件之一。

Stable Diffusion进阶!姥姥都能看懂的ControlNet超全教程

二、Controlnet 插件安装

首先,咱们先打开秋叶大佬的启动器,并且点击更新(切换)到最新版本,这一步的目的是为了防止出现奇奇怪怪的报错。

Stable Diffusion进阶!姥姥都能看懂的ControlNet超全教程

然后我们启动 "web-UI",打开扩展,并在这里输入该网址: https://jihulab.com/hanamizuki/sd-webui-controlnet ,然后点击安装等待一会...(安装没反应或者错误的注意网络问题,网上还有别的办法,我测试了下,这个是成功安装的)

Stable Diffusion进阶!姥姥都能看懂的ControlNet超全教程

等待一会,在这边底部就有一个信息提示,实际上就是告诉你安装的地址,这里我已经提前安装了,所以显示的可能跟大家不一样。

Stable Diffusion进阶!姥姥都能看懂的ControlNet超全教程

然后回到”已安装“这里,可以看到下面就出现了扩散控制网络(Controlnet 插件)了,然后点击”应用并重启用户界面"。

Stable Diffusion进阶!姥姥都能看懂的ControlNet超全教程

回到”文生图“这里,就看到 Controlnet 已经成功安装了。

Stable Diffusion进阶!姥姥都能看懂的ControlNet超全教程

三、Controlnet 模型安装

插件安装完成之后,还没完,我们需要安装下模型,跟着我做,首先去这个链接下载: https://huggingface.co/lllyasviel/ControlNet/tree/main/models

把下载的模型全部选中复制(ctrl+c)一下,我们需要移动到对应文件夹中。

Stable Diffusion进阶!姥姥都能看懂的ControlNet超全教程

看我的文件路径,别搞错了,把文件复制到这里来(一定不要复制到 Stable Diffusion 模型中去了)

Stable Diffusion进阶!姥姥都能看懂的ControlNet超全教程

重启 UI,耐心等待一下......

Stable Diffusion进阶!姥姥都能看懂的ControlNet超全教程

look,这就是成功安装的样子,很可爱呢~如果你没有,那说明你模型没安装到位置,仔细检查下吧。

Stable Diffusion进阶!姥姥都能看懂的ControlNet超全教程

四、模型说明及案例演示

介绍几个常用的 controlnet 模型教程,注意看哦。跟着我一步步的操作就没什么问题的,加油!

1. Canny 边缘检测 (Canny edge detection)

Canny 用于识别输入图像的边缘信息。从上传的图片中生成线稿,然后根据关键词来生成与上传图片同样构图的画面。

Stable Diffusion进阶!姥姥都能看懂的ControlNet超全教程

来跟着我的操作来一遍。

首先我们把模型和 lora 选择好,因为我这里上传的是一个真实的模特,所以像最大程度的还原,模型一定要对。这里我用到的是这两个模型。

Stable Diffusion进阶!姥姥都能看懂的ControlNet超全教程

然后输入关键词:

1girl, solo, smile, realistic, grin, looking at viewer, brown eyes, brown hair, ponytail, upper body, simple background, small breasts, breasts, blue background, teeth, lips, bare shoulders, long hair, black hair

女孩,独奏,微笑,现实,咧嘴笑,看着观众,棕色的眼睛,棕色的头发,马尾辫,上身,简单的背景,xxx,xx,蓝色的背景,牙齿,嘴唇,裸露的肩膀,长发,黑发

Stable Diffusion进阶!姥姥都能看懂的ControlNet超全教程

打开 Controlnet,选择 Canny 边缘检测,模型选择对应的 canny 模型。

Stable Diffusion进阶!姥姥都能看懂的ControlNet超全教程

上传图片,并勾选启用。

Stable Diffusion进阶!姥姥都能看懂的ControlNet超全教程

点击下方的“预览预处理结果”这一步是生成线稿。然后就会出现上面那张线稿图。

Stable Diffusion进阶!姥姥都能看懂的ControlNet超全教程

最后我们勾选下“DPM++SDE Karras”,开始生图

Stable Diffusion进阶!姥姥都能看懂的ControlNet超全教程

来看下原图和生成图片的对比,姿态构图基本一致。如果你想换头发颜色、面部细节、服装等等,就可以通过关键词来控制。这个功能学会了吧,那咱们讲下一个。

Stable Diffusion进阶!姥姥都能看懂的ControlNet超全教程

言川小知识:

可以看到上面生成的模特脸部头发丝有点乱,可以调整这个预处理器分辨率(下面两个同样也是调整线稿的精细层度),越高生成的效果与原图越相像,同样也会越吃显存,小心使用。

Stable Diffusion进阶!姥姥都能看懂的ControlNet超全教程

下面这 2 个也是同样的做法,它们的主要区别是边缘检测算法不同,具体选择哪个各位去尝试一下,玩法基本一致,我这里就不做演示了。(注意右侧的模型要选择对应的预处理器。)

Stable Diffusion进阶!姥姥都能看懂的ControlNet超全教程

2. M-LSD (建筑物绘制)

通过分析图片中的线条结构和几何形状,可以构建建筑物的外框,适合建筑、室内设计的朋友使用。

①切换预处理器和相应模型。

Stable Diffusion进阶!姥姥都能看懂的ControlNet超全教程

②上传一张室内设计的图片,然后点击“预处理结果”,(第一次用这个,控制台会更新一段时间)。

Stable Diffusion进阶!姥姥都能看懂的ControlNet超全教程

③输入关键词

pearl white walls, windsor gray floors, bedroom, Natural lighting, earthly tones, simple and clean, trending on interior design, digital artwork by Audrey kawasaki, Smooth, Detailed, Artstation, Neutral colors, elegant

珍珠白的墙壁,温莎灰色的地板,卧室,自然光,朴实的色调,简单干净,室内设计的趋势,由 Audrey kawasaki 设计的数字艺术品,光滑,细节,艺术站,中性色,优雅

Stable Diffusion进阶!姥姥都能看懂的ControlNet超全教程

可以看到,图片生成的效果还是不错的,跟原图的构图基本一致,当然还有更多的细节需要调整,大家可以调整这块的参数即可。

Stable Diffusion进阶!姥姥都能看懂的ControlNet超全教程

3. 法线贴图 (Normal map)

从原图中提取 3D 物体的法线向量,绘制的新图与原图的光影效果完全相同。

①切换预处理器和模型

Stable Diffusion进阶!姥姥都能看懂的ControlNet超全教程

②上传一张图片,然后点击“预览预处理结果”,然后就会给你生成一张法线图(懂 3 维的小伙伴应该都知道这个)

Stable Diffusion进阶!姥姥都能看懂的ControlNet超全教程

③继续输入关键词,等待生图....

Mercedes-Benz AMG GT, staring out of the window with regal air, Moody lighting, High detail, realistic fur texture, Digital painting, trending on artstation

梅赛德斯-奔驰 AMG GT,凝视窗外的皇家空气,穆迪照明,高细节,逼真的皮毛纹理,数字绘画,艺术站的趋势

Stable Diffusion进阶!姥姥都能看懂的ControlNet超全教程

怎么说呢,就是牛!!!背景细节等都可以通过关键词来控制,其他调整参数与上面一样。

言川小知识:这个模型主要是通过 RGB 颜色通道来标记表示凹凸,生成的图片立体感很强。

可以看到,图片生成的效果还是不错的,跟原图的构图基本一致,当然还有更多的细节需要调整,大家可以调整这块的参数即可。

4. OpenPose 姿态检测

通过姿势识别实现对人体动作的精准控制,不仅可以生成单人的姿势,还可以生成多人的姿势。

此外,由于 AI 生成的手部有问题,OpenPose 还有一个手部检测模型,大大改善了奇奇怪怪的手。

Stable Diffusion进阶!姥姥都能看懂的ControlNet超全教程

①切换预处理器和模型。

Stable Diffusion进阶!姥姥都能看懂的ControlNet超全教程

②上传一张图片,然后点击“预览预处理结果”,注意,第一次选中这个模型开始预处理的时候,会更新一段时间,可以在“控制台”查看更新进度,更新完成之后再次点击“预处理”就可以看到 AI 识别的图了。

Stable Diffusion进阶!姥姥都能看懂的ControlNet超全教程

看看预处理结果:

Stable Diffusion进阶!姥姥都能看懂的ControlNet超全教程

③输入关键词,等待生图....

1girl, solo, dress, braid, hairband, earrings, smile, brown eyes, white dress, realistic, jewelry, long hair, black hair, looking at viewer, bare shoulders, lips, blue hairband, single braid, brown hair, simple background

女孩,独奏,连衣裙,辫子,发带,耳环,微笑,棕色眼睛,白色连衣裙,现实主义,珠宝,长发,黑发,看着观众,裸露的肩膀,嘴唇,蓝色发带,单发带,棕色头发,简单的背景

Stable Diffusion进阶!姥姥都能看懂的ControlNet超全教程

这手奇奇怪怪的,没事,可以试试 OpenPose 手部检测模型,操作是一样的,自己去尝试哈,细节调起来操作很多,一点点尝试,肯定能成功的。

5. Scribble (涂鸦)

使用 Scribbles 模型,可以根据草图(涂鸦)绘制出精美的图片,对于那些没有接受过美术训练或缺乏绘画天赋的人来说,这是非常棒的。

①切换预处理器和模型。(第一次用这个,控制台会更新一段时间)

Stable Diffusion进阶!姥姥都能看懂的ControlNet超全教程

②点击“创建空白画布”。

Stable Diffusion进阶!姥姥都能看懂的ControlNet超全教程

③然后在这里画线稿,这里我画一盏煤油灯,我是用的鼠标绘制的,画的不好,做个演示。有手绘板的同学可以用手绘板绘制一下。

Stable Diffusion进阶!姥姥都能看懂的ControlNet超全教程

④输入关键词:

old electronic kerosene lamp in anthracite blue metal, warm orange metal reflections, Intricate, Highly detailed, Warm lighting, Sharp focus, Digital painting, Artstation, Concept art, trending, inspired by art by Zdenek Burian and frederick catherwood

旧电子煤油灯在无烟煤蓝色金属,温暖的橙色金属反射,错综复杂,高度详细,温暖的照明,锐利的焦点,数字绘画,艺术站,概念艺术,趋势,灵感来自艺术 zdenek burian 和 frederick catherwood

Stable Diffusion进阶!姥姥都能看懂的ControlNet超全教程

我画的不标准哈,做个演示,这个模型是根据你绘画的线稿精准控制物体的构图、构造。细节根据关键词来控制。

这里可能就有小伙伴疑问了,在 SD 里面直接绘制不是很方便,能不能通过其他软件绘制之后上传线稿生图呢,of course,看下面:

1)上传线稿图,点击“预览预处理器结果”。

Stable Diffusion进阶!姥姥都能看懂的ControlNet超全教程

2)输入上面的关键词,然后生成图片:

Stable Diffusion进阶!姥姥都能看懂的ControlNet超全教程

完事,同样细节需要你们自己去调整。

6. fake-scribble(伪涂鸦)

这个是不需要我们绘画的,上传一张图片,它会帮我们生成涂鸦效果。

①切换预处理器,模型不用切换。

Stable Diffusion进阶!姥姥都能看懂的ControlNet超全教程

②上传图片,然后点击“预览预处理器结果”。(第一次用这个,控制台会更新一段时间)

说实话,画的还不如我呢...

Stable Diffusion进阶!姥姥都能看懂的ControlNet超全教程

③输入关键词:

Espresso, set in a cozy office space with warm lighting, surrounded by office plants, books, and a cup of coffee on the desk, Detailed, Intricate, Smooth, Trending on Artstation, by artists such as loish and rossdraws and sam yang

意式浓缩咖啡,设置在一个舒适的办公空间,温暖的照明,周围的办公植物,书籍,和一杯咖啡在桌子上,详细,复杂,流畅,在 Artstation 趋势,由艺术家如 loish 和 rossdraw 和 sam yang

Stable Diffusion进阶!姥姥都能看懂的ControlNet超全教程

效果嘎嘎棒!!!

7. Semantic Segmentation(语义分割绘制)

Semantic Segmentation 语义分割是一种深度学习算法,重点关注 语义 一词,这种算法将一个标签或类别与图像联系起来,被用来识别形成不同类别的像素集合。具体还是看我的操作:

①切换预处理器和模型

Stable Diffusion进阶!姥姥都能看懂的ControlNet超全教程

②上传图片,然后点击“预览预处理器结果”。

Stable Diffusion进阶!姥姥都能看懂的ControlNet超全教程

可以看到,预处理阶段生成了一张五颜六色的图片,这就是语义分割图,这图中的每一种颜色都代表了一类物品,比如紫色(#cc05ff)代表床(bed),橙黄色(#ffc207)代表垫子(cushion),金黄色(#e0ff08)代表台灯(lamp)。

这是一份色值表格,大家自取!

Stable Diffusion进阶!姥姥都能看懂的ControlNet超全教程

③这里我就不输入关键词了,让 sd 自由发挥

Stable Diffusion进阶!姥姥都能看懂的ControlNet超全教程

言川小知识:可以在 PS 上绘制一个色块的物体(比如人,放在这个桥上,对应官方的色值),然后导入到语义分割这里来,输入相应的关键词,就可以精准控制图像的效果了。

注意看注意看:

这里我讲下这个小功能,前面两个是打开摄像头的功能,我没试过,你们想玩可以试一下啊。主要讲一下后面的那个小箭头。

Stable Diffusion进阶!姥姥都能看懂的ControlNet超全教程

这个箭头的功能是把你上传图片的分辨率,自动填充上去。

Stable Diffusion进阶!姥姥都能看懂的ControlNet超全教程 - AI人工智能 - 执刀人的工具库

Stable Diffusion进阶!姥姥都能看懂的ControlNet超全教程文章来源地址https://www.toymoban.com/news/detail-492902.html

到了这里,关于Stable Diffusion进阶!姥姥都能看懂的ControlNet超全教程的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • WPS AI最全申请与使用手册;AIGC制作游戏音乐;便宜快捷使用完整版SD;人人都能看懂的ChatGPT原理课 | ShowMeAI日报

    👀 日报周刊合集 | 🎡 生产力工具与行业应用大全 | 🧡 点赞关注评论拜托啦! 作者在这篇文章中探讨了生成式AI在虚拟世界的应用,并绘制了 Market Map V3.0 (市场全景图),来展示 Experiences 、 Discovery、Creator Economy、Spatial Computing、Decentralization、Human Interface、Infrastructure 各部分

    2024年02月09日
    浏览(46)
  • 【外行也能看懂的RabbitMQ系列(三)】—— RabbitMQ进阶篇之死信队列(内含视频演示业务和业务代码)

    准备篇 RabbitMQ安装文档 第一章 RabbitMQ快速入门篇 第二章 RabbitMQ的Web管理界面详解 第三章 RabbitMQ进阶篇之死信队列 第四章 RabbitMQ进阶篇之通过插件实现延迟队列 恭喜所有看到本篇文章的小伙伴,成功解锁了RabbitMQ系列之高级特性 死信队列 的内容🎁通过本文,你将清楚的了解

    2024年02月07日
    浏览(44)
  • 小白也能看懂的 AUC 详解

    上篇文章 小白也能看懂的 ROC 曲线详解 介绍了 ROC 曲线。本文介绍 AUC。AUC 的全名为 A rea U nder the ROC C urve,即 ROC 曲线下的面积,最大为 1。 根据 ROC 和 AUC 的关系,我们可以得到如下结论 ROC 曲线接近左上角 --- AUC 接近 1:模型预测准确率很高 ROC 曲线略高于基准线 --- AUC 略大

    2024年02月06日
    浏览(51)
  • 小白也能看懂的ChatGPT知识介绍

    ChatGPT 是一款由 OpenAI 开发的人工智能技术驱动的语言模型应用。以下是 ChatGPT 的主要特点和功能: 自然语言处理:ChatGPT 可以识别和理解自然语言,包括英语、法语、德语、西班牙语等多种语言。它可以回答各种问题、提供各种建议,并与人类进行自然的对话。 语言模型:

    2024年02月06日
    浏览(51)
  • 小白也能看懂的零信任SDP介绍

    SDP全称是Software Defined Perimeter,即软件定义边界,是由国际云安全联盟CSA于2013年提出的基于零信任(Zero Trust)理念的新一代网络安全技术架构。 一个经典访问关系普遍都可汇总为这样的访问模型:【终端】-【网络】-【业务系统】。访问最初是由终端产生请求,通过网络发送给

    2024年02月08日
    浏览(47)
  • [计算几何] 2 二维凸包/笨蛋(我)也能看懂的二维凸包算法

    二维凸包,这篇博客已经说得够好了,介绍了 斜率逼近法、Jarvis算法,Graham算法,还有Andrew算法 。我这篇博客只会非常详细的介绍 Andrew算法 。 数论小白都能看懂的平面凸包详解 - ShineEternal的笔记小屋 - 洛谷博客 (luogu.com.cn) 我相信凭借着我6个粉丝其中5个都是老熟人的传播

    2024年02月15日
    浏览(38)
  • [免费专栏] Android安全之Android Xposed插件开发,小白都能看得懂的教程

    也许每个人出生的时候都以为这世界都是为他一个人而存在的,当他发现自己错的时候,他便开始长大 少走了弯路,也就错过了风景,无论如何,感谢经历 转移发布平台通知:将不再在CSDN博客发布新文章,敬请移步知识星球 感谢大家一直以来对我CSDN博客的关注和支持,但

    2024年02月09日
    浏览(44)
  • 等保2.0丨5分钟速览:小白也能看懂的等保2.0介绍

    等级保护2.0自2019年12月1日正式实施起,到现在已经有两个多月的时间,但是仍然有刚刚进入等保领域的“萌新”反馈,需要小编再做一个简单的介绍,那么今天的干货内容,我们就来一起了解什么是等保2.0,最新实施的2.0又和之前的1.0有哪些区别,新增了什么? 等保2.0的概

    2024年02月15日
    浏览(57)
  • 基于蚁群算法的机器人路径规划matlab——代码注释超级详细,都能看懂

    本文对基本蚁群算法代码进行了详细的注释,每一步都简单易懂。程序在matlab中可直接运行,适合刚开始学习本算法的同学入门。 蚁群算法是由意大利学者Dorigo提出的一种仿生智能算法,最早运用在旅行商问题上。蚁群算法模仿蚂蚁觅食过程设计出的智能启发式算法,蚂蚁觅

    2024年02月15日
    浏览(53)
  • PyCharm 超详细的安装、卸载和升级包教程来了,零基础小白都能看懂!!

    PyCharm是一种Python IDE,其带有一整套可以帮助用户在使用Python语言开发时提高其效率的工具,比如, 调试、语法高亮、Project管理、代码跳转、智能提示、自动完成、单元测试、版本控制等等。此外,该IDE提供了一些高级功能,以用于支持Django框架下的专业Web开发。同时支持

    2024年02月08日
    浏览(38)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包