秒级出图的AI绘画终于支持Automatic1111。
今天在AI绘画的开源平台Automatic1111上发布了Tensorrt项目,项目地址是
https://github.com/AUTOMATIC1111/stable-diffusion-webui-tensorrt
该项目是基于automatic1111的stable-diffusion-webui项目的子项目。
基本原理:
我们知道,automatic1111是基于pytorch框架设计的,每次执行,都会从基础模型进行推算直至最终出图。
Tensorrt是nvidia推出的推理器,在基于pytorch框架的应用上,它可以先用pytorch进行预处理生成ONNX预处理模型,这样完成了大量重负荷的工作,然后通过Tensorrt推理器,对ONNX进行推理计算。因此可快速生成AI绘图。甚至可以将图片生成速度提高至0.1秒内。
之前我也安装过几个基于Tensorrt的开源项目,但功能完整性上都不及automatic1111项目全面,这次automatic1111项目推出自己的tensorrt,算是补完了这块拼图。
当然,要把Tensorrt用起来,也不是这么容易的:
1. 安装:
stable diffusion中要把Tensorrt用起来,除了我们知道的Nvidia显卡驱动,CUDA Toolkit, CUDnn外,还要安装TensorRT, 而且TensorRT需要手动安装,Nvidia没有提供一键安装包。
2. 硬件支持:
Tensorrt, 早期版本需要SM5.0以上显卡,新版需要SM6.0以上显卡,要跑流畅了,需要Turing架构以上的含Tensor core的显卡。
3. 使用:
在实际使用时,我们需要一次性将基础模型(如果用到lora,需要一同加载)转化为ONNX模型,然后在生成图片时选择ONNX模型,并选择Tensorrt方式(不需要指定lora)
优点:出图快!非常快!
缺点:ONNX模型生成需要点时间,每种Lora与基模的组合,需要单独生成ONNX模型!文章来源:https://www.toymoban.com/news/detail-484517.html
适合:应用场景相对固定的创作者--可快速大批量产出同样风格的创意。文章来源地址https://www.toymoban.com/news/detail-484517.html
到了这里,关于AI秒出图!StableDiffusion Automatic1111正式支持Tensorrt的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!