论文简要总结
刚读了下speed is all you need这个论文, https://arxiv.org/pdf/2304.11267.pdf
只是用的SD1.4没有对网络进行改造。
只做了4个改动
1 是对norm采用了groupnorm (GPU shader加速)
2 采用了GELU (GPU shader加速)
3 采用了两种attention优化,是partitially fused softmax或者Flash attention(2种方法视情况选1)
4 采用了winograd 卷积文章来源:https://www.toymoban.com/news/detail-477459.html
实验效果 SD1.4 出512x512的图,迭代12次,12s以下(手机端)
under 12 seconds for Stable Diffusion 1.4 without INT8 quantization for a 512 × 512 image with 20 iterations文章来源地址https://www.toymoban.com/news/detail-477459.html
到了这里,关于[Diffusion] Speed is all your need的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!