4G显存玩转AI绘画!Stable Diffusion WebUI Forge来了!

这篇具有很好参考价值的文章主要介绍了4G显存玩转AI绘画!Stable Diffusion WebUI Forge来了!。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

经常使用Stable Diffusion WebUI的同学可能都被显存的问题困扰过,其运行时需要巨大的显存空间,跑着跑着显存可能就爆了,不得不重新启动。不过现在这个问题解决了,因为Stable Diffusion WebUI Forge来了。

Forge的优势

相较于原版的SD WebUI(针对1024像素分辨率下的SDXL图片生成),可以获取以下性能提升:

  • 对于8GB显存GPU,生成速度可以有大约30%至45%的提升,GPU内存峰值下降约700MB至1.3GB,最大扩散分辨率将提升约2到3倍,同时最大扩散批次大小将增加约4到6倍。
  • 对于6GB显存GPU,生成速度预计可提升约60%至75%,GPU内存峰值会降低约800MB至1.5GB,最大扩散分辨率将提升约3倍,最大扩散批次大小将增加约4倍。
  • 对于24GB显存的4090 GPU,生成速度预计可提升约3%至6%,GPU内存峰值将下降约1GB至1.4GB,最大扩散分辨率将提升约1.6倍,而最大扩散批次大小将增加约2倍。
  • 另外对于SDXL,SDXL+ControlNet的速度将提升约30%至45%。

Forge后端移除了原版WebUI中与资源管理相关的所有代码,并对其进行了重构。不需要任何特殊设置,Forge即可支持在4GB显存下运行SDXL以及在2GB显存下运行SD1.5。

Forge做了什么

Stable Diffusion WebUI Forge是Stable Diffusion WebUI的优化版本,和原版WebUI的功能基本保持一致,但是大幅简化了开发流程,优化了资源管理,并加快了推理速度。为什么不直接改WebUI呢?因为WebUI有很多的历史包袱,不好直接大幅度重构,开发者之间协调起来也很麻烦。

“Forge”这个名字来源于“我的世界(Minecraft)的Forge”,这个项目的目标是成为SD WebUI的Forge。在“我的世界”中,Forge解决了模组之间的兼容性问题,确保多个模组可以在同一环境中协同工作,而不会因为互相冲突而导致游戏崩溃或其他不可预见的问题。

与此类似,WebUI Forge也带来的一项重大的革新,这就是Unet Patcher技术。借助这个工具,原本复杂的技术如自注意力引导、Kohya高清修复方案、FreeU、StyleAlign以及Hypertile等,如今通过仅仅约100行代码就能够轻松实现集成,大大简化了开发过程。

有了Unet Patcher,WebUI Forge平台也得以支持和便捷实现一系列创新功能与特性。无论是SVD、Z123、带蒙版的ControlNet系统,还是用于照片生成的照片制作工具(PhotoMaker)等,都变得触手可及。开发者再也不必费尽心思对UNet做复杂的临时性修补,同时也消除了与其他扩展相互干扰的风险,使得整个开发环境更加和谐稳定。

Forge能力介绍

Forge的能力和原版WebUI的能力差不多,界面也基本上是一样的。下边我将主要介绍下 Stable Diffusion WebUI Forge 带来的三个主要新能力。

stable-diffusion 显存4g,AIGC,AI作画,stable diffusion,人工智能,forge,Animatediff,Z123,SVD

SVD

Stable Video Diffusion是Stability AI公司研发的一款先进的图片生成视频模型,这个模型基于Stable Diffusion模型进行了拓展,在SD的基础上引入了时间维度,能够捕捉并生成动态场景,主要用于将静态图像转化为连续流畅的视频内容。

模型采用了潜在扩散模型(Latent Diffusion Model, LDM)架构,并针对视频数据集进行了优化。通过添加时间层,模型能够理解和预测视频序列中每一帧的变化,从而生成连贯的视频片段。

Stable Video Diffusion可以以每秒3至30帧的可定制帧率生成14帧或25帧长度的视频,并且在外部评估中显示出了优于某些闭源模型的性能。

在这个功能中我们可以使用其最新发布的1.1版本,还有很多参数可以自己控制调整。

stable-diffusion 显存4g,AIGC,AI作画,stable diffusion,人工智能,forge,Animatediff,Z123,SVD

Z123

Z123是Zero123的缩写,Zero123是一种能从单张2D图像生成高质量3D模型的技术,它运用了深度学习的扩散模型原理,允许模型理解并推测出输入图像中物体的3D结构和空间信息,进而生成多视角下的连续且一致的图像或直接构建3D模型。

在Stable Diffusion WebUI Forge中我们需要自己下载部署Zero123模型,这里我部署了stable_zero123.ckpt 模型。Stable Zero123是Zero123模型的一个增强版本,它进一步提升了模型性能,在质量和准确性上有所突破,尤其在处理从单张图像生成3D对象方面表现出色。

stable-diffusion 显存4g,AIGC,AI作画,stable diffusion,人工智能,forge,Animatediff,Z123,SVD

这个功能有一些参数可以设置,比如宽度、高度等,重点是海拔和角度,这就可以生成不同的视角的图片。

stable-diffusion 显存4g,AIGC,AI作画,stable diffusion,人工智能,forge,Animatediff,Z123,SVD

AnimateDiff

AnimateDiff 在WebUI中是个插件,主要用于为 Stable Diffusion 添加动态元素,使其能够生成流畅且连续的动画视频,网络上流行的“女孩的一生”就是用这个工具生成的。因其生成动画的平滑、稳定而受到广泛欢迎,被认为是Stable Diffusion生态中生成动画视频效果最为出色的一款插件。

AnimateDiff 在现有扩散模型的基础上增加了一个运动建模模块,这一模块通过学习大规模视频数据集,能够捕捉并合成合理的时间序列变化,将静止的二次元或三维图像转换为动态的动画。

这个插件也能够用在原版的WebUI中,不过开发者为Forge也维护了一个单独的版本,结合ControlNet的能力也更为强大一些,插件地址:https://github.com/continue-revolution/sd-forge-animatediff

如果你对使用 AnimateDiff 生成视频感兴趣,可以看我这篇文章:

stable-diffusion 显存4g,AIGC,AI作画,stable diffusion,人工智能,forge,Animatediff,Z123,SVD

使用Forge

使用镜像

我在AutoDL(AutoDL算力云 | 弹性、好用、省钱。租GPU就上AutoDL)上制作了一个镜像,解决了各种程序包和模型的问题,Z123、SVD、AnimateDiff这三个功能也都准备好了,可以直接使用。

租用实例时,镜像选择“社区镜像”,输入 yinghuoai 就可以找到:

stable-diffusion 显存4g,AIGC,AI作画,stable diffusion,人工智能,forge,Animatediff,Z123,SVD

镜像内置了一个简单的启动器,点击即可启动整个 WebUI Forge 程序。

stable-diffusion 显存4g,AIGC,AI作画,stable diffusion,人工智能,forge,Animatediff,Z123,SVD

启动后就可以通过 AutoDL 提供的“自定义服务”在浏览器中访问WebUI Forge了。

stable-diffusion 显存4g,AIGC,AI作画,stable diffusion,人工智能,forge,Animatediff,Z123,SVD

手动安装

和原版WebUI的安装方法差不多,首先下载代码到本地,然后执行启动脚本(Windows:webui-user.bat,Linux:webui.sh),就可以自动安装部署。

Forge另外提供了一个一键安装包,有兴趣的可以试试:

https://github.com/lllyasviel/stable-diffusion-webui-forge/releases/download/latest/webui_forge_cu121_torch21.7z

只是使用时可能会遇到一些缺少包或者模型的问题,需要手动下载或安装。如有问题,欢迎交流沟通。

资源下载

文章中使用的SD模型、Lora模型、SD插件、示例图片等,都已经上传到我整理的 Stable Diffusion 绘画资源中;另外我整理了自己输出的关于 Stable Diffusion 的所有教程,包括基础篇、ControlNet、插件、实战、模型训练等多个方面,比较全面、体系化,特别适合新手和想要系统化学习使用Stable Diffusion WebUI的同学。最新下载地址请发消息:SD 到公众号 yinghuo6ai ,即可获取。

stable-diffusion 显存4g,AIGC,AI作画,stable diffusion,人工智能,forge,Animatediff,Z123,SVD

使用中遇到问题,欢迎向我反馈!文章来源地址https://www.toymoban.com/news/detail-861693.html

到了这里,关于4G显存玩转AI绘画!Stable Diffusion WebUI Forge来了!的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • AI绘画新手必看,Stable Diffusion提示词神器来了!

    大家好,我是程序员晓晓 对于AI绘画来说,提示词写得好坏,十分影响最终生成图片的结果。会写提示词的话,生成的图片质量就会比较高,不会写的话,结果可能就不会好。 之前大家在使用Stable Diffuison(以下简称SD)时,写提示词往往要去翻译软件先输入中文,然后翻译成

    2024年04月12日
    浏览(70)
  • AI绘画指南 stable diffusion webui (SD webui)如何设置与使用

    根据自己最近的理解与实践,只能说是给后来的AI绘画作画者一点快速上手入门的参考吧。 主要是涉及 SD webui 界面介绍 参数含义及调整,txt2img 怎么设置特征点,img2img 怎么完善原始图像等内容。 SD webui 的默认地址为  127.0.0.1:7860 目前有中文界面了,下文将以中文版为主,结

    2024年02月04日
    浏览(37)
  • stable-diffusion-webui教程(AI绘画真人教程)

    首先给大家看看效果,这个就是新一代的AI绘画的造物,是不是很漂亮,AI自定义老婆从此不再是梦了。 下面就给大家演示一下,这个软件如何部署,和部署完成之后如何获取相关的,和模型,然后大家也可以自己做出来自己喜欢的AI老婆。 这里是别的大佬的项目的地

    2024年02月02日
    浏览(37)
  • AI 绘画 stable diffusion webui 常见模型汇总及简介

    主要是记录索引一下常见的 AI 绘画作画模型,方便自己用。主要收集 stable diffusion webui 用大模型(ckpt与safetensors)包括了常见的模型比如的Waifu Diffusion、anything、f222、basil mix、urpm 、chillout mix等模型。 Lora(人物卡模型)和hypernetworks(embedding和hypernetwork)暂时不打算广泛搜集

    2024年02月02日
    浏览(44)
  • 【AI绘画】个人电脑部署免费AI绘画软件——Stable Diffusion webui启动器

    二次元 2.5d 机甲风 ai绘画,也叫“ai作画”、“人工智能绘画”,即通过 AI 生成技术得到画作或图片。ai作画由来已久,有许多创作ai绘画作品的方式,包括基于规则的图像生成算法、深度学习算法。最近火爆全网的是通过文本描述生成绘画的形式,大家或许会疑惑,AI 生成图

    2024年02月11日
    浏览(59)
  • 如何在阿里云快速启动Stable Diffusion轻松玩转AI绘画

    AIGC最近非常火热,除了chatGPT,还有Stable Diffusion AI绘画,之前看到了一系列关于AIGC的文章,了解到很多同学都想体验下AIGC的魅力。关于Stable Diffusion部署,在网上看到了很多版本,云上最简单最快速部署的版本来了! 阿里云计算巢提供了Stable Diffusion快速部署及下载自定义模

    2023年04月19日
    浏览(32)
  • AI绘画stable-diffusion-webui指定GPU运行

    在cmd_args.py文件中,进行运行参数的设定,其中可以指定gpu信息 其中: 命令行运行的时候指定具体gpu的id,例如: 表示使用id为3的gpu卡运行,其中--listen表示允许远程访问。

    2024年02月11日
    浏览(29)
  • AI绘画stable-diffusion-webui+ChilloutMix云部署

    腾讯GPU实验室:https://cloud.tencent.com/act/pro/gpu-study?from=10680 实例规格:GPU计算型GN7 | GN7.2XLARGE32 系统:Ubuntu Server 20.04 LTS 64位 根据安装要求python版本需要为3.10.6. 下载python3.10.6. 网络慢的话手动上传到服务器。 解压并进入该目录,后续的所有命令均在该目录中执行: 1.下载代码

    2024年01月20日
    浏览(40)
  • AI绘画Stable diffusion 4.7最新版终于来了!一键安装,本地部署!

    如果这个世界有上帝,那么他一定是程序员。 国内SD绘画启动器第一人是我认为是B站的秋葉aaaki 因为制作了这款Stable Diffusion启动器,降低了国内使用SD的门槛,秋叶被粉丝戏称赛博菩萨。 ▍Stable Diffusion 是什么? Stable Diffusion(简称SD)是一种生成式人工智能,于2022年发布,

    2024年04月14日
    浏览(53)
  • 用Colab免费部署AI绘画云平台Stable Diffusion webUI

    Google Colab 版的 Stable Diffusion WebUI 1.4 webui github 地址:https://github.com/sd-webui/stable-diffusion-webui 今天就来交大家如果来搭建和使用这个云平台。 第一步:  打开链接 https://colab.research.google.com/github/altryne/sd-webui-colab/blob/main/Stable_Diffusion_WebUi_Altryne.ipynb 第二步: 连接运行时 打开后,点

    2024年02月09日
    浏览(39)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包