AI秒出图!StableDiffusion Automatic1111正式支持Tensorrt

这篇具有很好参考价值的文章主要介绍了AI秒出图!StableDiffusion Automatic1111正式支持Tensorrt。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

秒级出图的AI绘画终于支持Automatic1111。

今天在AI绘画的开源平台Automatic1111上发布了Tensorrt项目,项目地址是

https://github.com/AUTOMATIC1111/stable-diffusion-webui-tensorrt

该项目是基于automatic1111的stable-diffusion-webui项目的子项目。

基本原理:

我们知道,automatic1111是基于pytorch框架设计的,每次执行,都会从基础模型进行推算直至最终出图。

Tensorrt是nvidia推出的推理器,在基于pytorch框架的应用上,它可以先用pytorch进行预处理生成ONNX预处理模型,这样完成了大量重负荷的工作,然后通过Tensorrt推理器,对ONNX进行推理计算。因此可快速生成AI绘图。甚至可以将图片生成速度提高至0.1秒内。

之前我也安装过几个基于Tensorrt的开源项目,但功能完整性上都不及automatic1111项目全面,这次automatic1111项目推出自己的tensorrt,算是补完了这块拼图。

当然,要把Tensorrt用起来,也不是这么容易的:

1. 安装:

   stable diffusion中要把Tensorrt用起来,除了我们知道的Nvidia显卡驱动,CUDA Toolkit, CUDnn外,还要安装TensorRT, 而且TensorRT需要手动安装,Nvidia没有提供一键安装包。

2. 硬件支持:

    Tensorrt, 早期版本需要SM5.0以上显卡,新版需要SM6.0以上显卡,要跑流畅了,需要Turing架构以上的含Tensor core的显卡。

3. 使用:

    在实际使用时,我们需要一次性将基础模型(如果用到lora,需要一同加载)转化为ONNX模型,然后在生成图片时选择ONNX模型,并选择Tensorrt方式(不需要指定lora)

优点:出图快!非常快!

缺点:ONNX模型生成需要点时间,每种Lora与基模的组合,需要单独生成ONNX模型!

适合:应用场景相对固定的创作者--可快速大批量产出同样风格的创意。文章来源地址https://www.toymoban.com/news/detail-484517.html

到了这里,关于AI秒出图!StableDiffusion Automatic1111正式支持Tensorrt的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • Windows10 AUTOMATIC1111 / stable-diffusion-webui 本地部署

    非常简单的前言,这就是一个简单介绍部署流程的文章。如有不全敬请谅解。 下面根据网上的资料对部分名词简要介绍一下: stable diffusion是一个基于潜在扩散模型(Latent Diffusion Models)的一个 文本到图像(text to image)生成模型,能够根据任意文本输入生成高质量、高分辨率、

    2023年04月12日
    浏览(51)
  • Stable Diffusion Automatic1111 Web UI和dreambooth扩展的安装教程

    Python 3.10.9 https://www.python.org/ftp/python/3.10.9/python-3.10.9-amd64.exe git https://git-scm.com/downloads 下载地址:https://github.com/AUTOMATIC1111/stable-diffusion-webui 下载用于训练的模型:Realistic Vision V2 Model For Realistic Training (3.85 GB) DreamBooth extension:https://github.com/d8ahazard/sd_dreambooth_extension 进入Autom

    2024年02月02日
    浏览(55)
  • 一些安装AUTOMATIC1111的Stable Diffusion WebUI常遇到的错误消息的解决方式

    最低配备 建议配备 注解 显卡(GPU) GTX1050Ti RTX3060Ti 支持的显卡芯片有Nvidia/AMD/Intel Arc/Apple M。 显卡显存(VRAM) 4GB 8GB 显卡的VRAM最低要4GB才不会算到一半内存不足,若要训练模型就得8GB以上了。 内存(RAM) 8GB 16GB 保存空间 20GB,最好是SSD 处理器(CPU) x86架构的Intel或AMD处理器皆可。若

    2024年02月03日
    浏览(47)
  • win11安装stable diffusion webui(AUTOMATIC1111/stable-diffusion-webui) +anaconda+外接固态硬盘

    主要参考文章: 从零开始,手把手教你本地部署Stable Diffusion Webui AI绘画(Win系最新版) - 知乎 (zhihu.com) (其实在安装过程中因为遇到很多坑,已经看了非常多的安装教程,但写这篇备忘的时候已经都找不到了。感谢这些作者无私分享,很遗憾这里只能上这个最后一篇参考的文

    2024年02月09日
    浏览(42)
  • win11从Github上源码安装AUTOMATIC1111/stable-diffusion-webui(使用anaconda+外接固态硬盘的解决方案)

    主要参考文章: 从零开始,手把手教你本地部署Stable Diffusion Webui AI绘画(Win系最新版) - 知乎 (zhihu.com) (其实在安装过程中因为遇到很多坑,已经看了非常多的安装教程,但写这篇备忘的时候已经都找不到了。感谢这些作者无私分享,很遗憾这里只能上这个最后一篇参考的文

    2024年02月05日
    浏览(47)
  • 秒速出图!体验 TensorRT 加速 Stable Diffusion 图像创作

    生成式 AI 图像内容生成技术近年来发展迅速,可以根据人类语言描述生成图片,在时尚、建筑、动漫、广告、游戏等领域有着广泛应用。 Stable Diffusion WebUI 是 Github 上最为热门的利用生成式 AI 进行图像生成的项目。它采用 ClipText 对文字进行编码,然后采用 UNet+Scheduler 在潜在

    2024年02月20日
    浏览(86)
  • SD/StableDiffusion模型,ai绘画部署教程,谷歌云端零成本部署,支持中文

    众所周知StableDiffusion这款开源软件对电脑硬件要求非常高,因此我们普通人想体验如今最火的AI绘画软件的话,用这种谷歌colab的方式是最好的方式了,接下来跟着我一块来体验一下如何使用吧。 1、一个谷歌账号 2、github上一个开源项目 本教程使用谷歌colab来云端部署的,就

    2024年02月13日
    浏览(58)
  • SD/StableDiffusion教程,ai绘画部署教程,谷歌云端零成本部署,支持中文

    众所周知StableDiffusion这款开源软件对电脑硬件要求非常高,因此我们普通人想体验如今最火的AI绘画软件的话,用这种谷歌colab的方式是最好的方式了,接下来跟着我一块来体验一下如何使用吧。 1、一个谷歌账号 2、github上一个开源项目 本教程使用谷歌colab来云端部署的,就

    2024年02月09日
    浏览(33)
  • Stable Diffusion——使用TensorRT GPU加速提升Stable Diffusion出图速度

    Diffusion 模型在生成图像时最大的瓶颈是速度过慢的问题。为了解决这个问题,Stable Diffusion 采用了多种方式来加速图像生成,使得实时图像生成成为可能。最核心的加速是Stable Diffusion 使用了编码器将图像从原始的 3 512 512 大小转换为更小的 4 64 64 大小,从而极大地降低了计算

    2024年02月21日
    浏览(46)
  • FPGA UDP协议栈:基于88E1111,支持RGMII、GMII、SGMII三种模式,提供3套工程源码和技术支持

    FPGA UDP协议栈:基于88E1111,支持RGMII、GMII、SGMII三种模式,提供3套工程源码和技术支持 目前网上的fpga实现udp基本生态如下: 1:verilog编写的udp收发器,但中间的FIFO或者RAM等调用了IP,或者不带ping功能,这样的代码功能正常也能用,但不带ping功能基本就是废物,在实际项目中

    2024年02月02日
    浏览(128)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包