AI 绘画Stable Diffusion 研究(十四)SD 图生图+剪映制作人物说话视频

这篇具有很好参考价值的文章主要介绍了AI 绘画Stable Diffusion 研究(十四)SD 图生图+剪映制作人物说话视频。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。


大家好,我是风雨无阻。


前一篇,我们详细介绍了使用 SadTlaker制作数字人视频案例,感兴趣的朋友请前往查看:AI 绘画Stable Diffusion 研究(十三)SD数字人制作工具SadTlaker使用教程。


对于没有安装 SadTlaker 插件的朋友,可以查看这篇文章:AI 绘画Stable Diffusion 研究(十二)SD数字人制作工具SadTlaker插件安装教程 。


想必用过 SadTlaker 的朋友都知道,目前使用 SadTlaker插件制作数字人说话的视频,有两个不太理想的地方:

(1)、 生成视频消耗的时间比较长。尤其是显卡和显存比较低的朋友,想要制作一个长时间的视频,效率更低。

笔者亲测:使用3060 12G显卡,制作一段15s 左右的视频,需要10分钟左右。

(2)、目前的SadTlaker 图片人物只能使用正面照,这样给人的感觉比较突兀。


那有没有其他方法制作数字人视频,既能达到让数字人张嘴说话的效果, 效率又更高,还可以使用非正面图的方式呢?

答案是有的,那就是今天的主题: SD 图生图制作人物张嘴说话图+剪映制作说话视频。


一、SD制作人物张嘴说话图


1、切换到SD 图生图->局部重绘界面 ,上传一张人物图片


AI 绘画Stable Diffusion 研究(十四)SD 图生图+剪映制作人物说话视频,AI绘画,人工智能,stable diffusion,音视频,AI作画,ai绘画


2、反推正向提示词


AI 绘画Stable Diffusion 研究(十四)SD 图生图+剪映制作人物说话视频,AI绘画,人工智能,stable diffusion,音视频,AI作画,ai绘画


3、改写正向提示词,让人物张嘴


没安装提示词插件的朋友,请查看这篇文章AI 绘画Stable Diffusion 研究(六)sd提示词插件,有详细安装步骤。


(1)、我们使用提示词插件, 在提示词处,先输入中文: 张嘴

提示词插件会自动将中文转换英文提示词。


如图:

AI 绘画Stable Diffusion 研究(十四)SD 图生图+剪映制作人物说话视频,AI绘画,人工智能,stable diffusion,音视频,AI作画,ai绘画


(2)、为了让人物张嘴效果更明显,不被sd 忽略,我们需要增加张嘴提示词的权重


选择张嘴提示词, 会弹出权重操作按钮,然后我们点击三次,增加权重图标按钮,此时提示词输入框内会自动增加提示词的权重。


如图:

AI 绘画Stable Diffusion 研究(十四)SD 图生图+剪映制作人物说话视频,AI绘画,人工智能,stable diffusion,音视频,AI作画,ai绘画


AI 绘画Stable Diffusion 研究(十四)SD 图生图+剪映制作人物说话视频,AI绘画,人工智能,stable diffusion,音视频,AI作画,ai绘画


AI 绘画Stable Diffusion 研究(十四)SD 图生图+剪映制作人物说话视频,AI绘画,人工智能,stable diffusion,音视频,AI作画,ai绘画


(3)、涂选重绘区域

在局部重绘界面,右侧选择画笔,ctrl+鼠标滚轮可调整画笔粗细。


AI 绘画Stable Diffusion 研究(十四)SD 图生图+剪映制作人物说话视频,AI绘画,人工智能,stable diffusion,音视频,AI作画,ai绘画


(4)、调整重绘尺寸

AI 绘画Stable Diffusion 研究(十四)SD 图生图+剪映制作人物说话视频,AI绘画,人工智能,stable diffusion,音视频,AI作画,ai绘画


(5)、启用controlnet ,保存人物姿势不变

  • 启用controlnet
  • 控制类型选择:openpose
  • 预处理器:openpose_full
  • 模型:control_v11p_sd15_openpose

AI 绘画Stable Diffusion 研究(十四)SD 图生图+剪映制作人物说话视频,AI绘画,人工智能,stable diffusion,音视频,AI作画,ai绘画


(6)、点击生成,即可获得人物张嘴的图片

对比图如下:

AI 绘画Stable Diffusion 研究(十四)SD 图生图+剪映制作人物说话视频,AI绘画,人工智能,stable diffusion,音视频,AI作画,ai绘画


上面我们已经获得了人物张嘴的图片,那么接下来,我们使用剪映,加上配音和字幕,即可制作人物开口说话视频了。


二、剪映制作人物开口说话视频

1、准备工作

  • 安装剪映,具体的安装步骤这里就不再细说,很简单,请自行安装。

  • 准备好人物张嘴和闭嘴的两张图

  • 准备好音频文件


2、打开剪映点击开始制作

AI 绘画Stable Diffusion 研究(十四)SD 图生图+剪映制作人物说话视频,AI绘画,人工智能,stable diffusion,音视频,AI作画,ai绘画


3、导入音频和图片

如图:

qyDT-1692773049806)(assets/image-20230823003231110.png)]

AI 绘画Stable Diffusion 研究(十四)SD 图生图+剪映制作人物说话视频,AI绘画,人工智能,stable diffusion,音视频,AI作画,ai绘画


4、将音频拖入下方音频轨道

AI 绘画Stable Diffusion 研究(十四)SD 图生图+剪映制作人物说话视频,AI绘画,人工智能,stable diffusion,音视频,AI作画,ai绘画


5、生成字幕

依次点击菜单栏上“文本”按钮,再点击左侧“智能字幕”按钮,接着点击“开始识别”按钮,生成字幕


AI 绘画Stable Diffusion 研究(十四)SD 图生图+剪映制作人物说话视频,AI绘画,人工智能,stable diffusion,音视频,AI作画,ai绘画


字幕生成如下:

AI 绘画Stable Diffusion 研究(十四)SD 图生图+剪映制作人物说话视频,AI绘画,人工智能,stable diffusion,音视频,AI作画,ai绘画


6、将图片拖入轨道,然后切换嘴型

(1)、怎么切换嘴型,使其看上去像说话的效果呢?


用过剪映的朋友肯定知道,剪映 1s 是30帧 。

那么正常人说话,大约1s 5 -6 个字。

因此我们可以计算出来大概 5帧 一个嘴型。

因此我们先使用闭嘴的图,然后在5帧的地方,切换张嘴的图即可实现。


(2)、制作步骤


  • step 1: 将张嘴的图和闭嘴的图分别导入到图片两个轨道上

  • step 2:将右侧轨道缩放拖到最右侧,可以清晰看见轨道上的帧数 ,如1f \2f\4f\6f

    如图:

AI 绘画Stable Diffusion 研究(十四)SD 图生图+剪映制作人物说话视频,AI绘画,人工智能,stable diffusion,音视频,AI作画,ai绘画


step 3: 将定位线移到 5帧处,然后点击分割按钮,将张嘴和闭嘴图都分割开

如下:


AI 绘画Stable Diffusion 研究(十四)SD 图生图+剪映制作人物说话视频,AI绘画,人工智能,stable diffusion,音视频,AI作画,ai绘画


step 4:处理闭嘴的图, 分割后,我们删除,前5帧,不用的闭嘴图

如下:


AI 绘画Stable Diffusion 研究(十四)SD 图生图+剪映制作人物说话视频,AI绘画,人工智能,stable diffusion,音视频,AI作画,ai绘画


step 5: 继续往后数5帧,再分割

AI 绘画Stable Diffusion 研究(十四)SD 图生图+剪映制作人物说话视频,AI绘画,人工智能,stable diffusion,音视频,AI作画,ai绘画


step 6: 删除张嘴、闭嘴图 多余的部分


AI 绘画Stable Diffusion 研究(十四)SD 图生图+剪映制作人物说话视频,AI绘画,人工智能,stable diffusion,音视频,AI作画,ai绘画


step 7: 将张嘴、闭嘴拖入同一轨道,并且打组

AI 绘画Stable Diffusion 研究(十四)SD 图生图+剪映制作人物说话视频,AI绘画,人工智能,stable diffusion,音视频,AI作画,ai绘画


选中两个片段,然后鼠标右键,新建复合片段,打组


AI 绘画Stable Diffusion 研究(十四)SD 图生图+剪映制作人物说话视频,AI绘画,人工智能,stable diffusion,音视频,AI作画,ai绘画


现在的效果,就是闭嘴、张嘴的一个片段 。

打组后如图:

AI 绘画Stable Diffusion 研究(十四)SD 图生图+剪映制作人物说话视频,AI绘画,人工智能,stable diffusion,音视频,AI作画,ai绘画


step 8: 复制粘贴多个片段,直到一句说完话为止

然后将图片末尾和字幕对齐。

如图:

AI 绘画Stable Diffusion 研究(十四)SD 图生图+剪映制作人物说话视频,AI绘画,人工智能,stable diffusion,音视频,AI作画,ai绘画


step 9: 没说话的时候,使用闭嘴的图

注意:将图片末尾和空白处末尾对齐

如下:

AI 绘画Stable Diffusion 研究(十四)SD 图生图+剪映制作人物说话视频,AI绘画,人工智能,stable diffusion,音视频,AI作画,ai绘画


step 10: 继续处理后面说话的部分, 重复步骤step 8,直到每句话处理完毕

AI 绘画Stable Diffusion 研究(十四)SD 图生图+剪映制作人物说话视频,AI绘画,人工智能,stable diffusion,音视频,AI作画,ai绘画


step 11: 调整视频比例,9:16 再导出视频

右上角导出按钮,导出即可。

AI 绘画Stable Diffusion 研究(十四)SD 图生图+剪映制作人物说话视频,AI绘画,人工智能,stable diffusion,音视频,AI作画,ai绘画


AI 绘画Stable Diffusion 研究(十四)SD 图生图+剪映制作人物说话视频,AI绘画,人工智能,stable diffusion,音视频,AI作画,ai绘画


好了,这个视频制作就到此结束,看看效果吧:

SD 图生图+剪映制作人物说话视频

说实话,这个视频只是张嘴闭嘴的效果,没有脸部表情变化,确实显得比较生硬。

不过这里重点在于介绍制作思路和剪辑方法, 对于感兴趣的朋友可以尝试玩一下。文章来源地址https://www.toymoban.com/news/detail-675389.html

到了这里,关于AI 绘画Stable Diffusion 研究(十四)SD 图生图+剪映制作人物说话视频的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 最新版本 Stable Diffusion 开源 AI 绘画工具之图生图进阶篇

    目录 🎈 图生图基本参数 🎈 图生图(img2img) 🎈 涂鸦绘制(Sketch) 🎈 局部绘制(Inpaint) 🎈 涂鸦蒙版(Inpaint sketch) 🎈 上传蒙版(Inpaint upload) 图生图功能主要包括六大类: 图生图 / img2img 、 涂鸦绘制 / sketch 、 局部绘制 / inpaint 、 局部绘制之涂鸦蒙版 / inpaint sketch

    2023年04月12日
    浏览(39)
  • 【stable diffusion】保姆级入门课程02-Stable diffusion(SD)图生图-基础图生图用法

    目录 学前视频 0.本章素材  1.图生图是什么 2.图生图能做什么 3.如何使用图生图 4.功能区域 4.1.提示词区域 4.2.图片提示词反推区域 1.CLIP反推 2.DeepBooru 反推 4.3.图片上传区域 4.4.结果图区域 4.5.缩放模式  4.6.重绘幅度 7.结语 8.课后训练   stable diffusion图生图教程 百度网盘 夸克

    2024年02月15日
    浏览(64)
  • Stable Diffusion(SD)核心基础知识——(文生图、图生图)

    Stable Diffusion是计算机视觉领域的一个生成式大模型,可以用于文生图,图生图,图像inpainting,ControlNet控制生成,图像超分等丰富的任务。 文生图(txt2img) 文生图任务是指将一段文本输入到SD模型中,经过一定的迭代次数,SD模型输出一张符合输入文本描述的图片。 步骤一

    2024年01月22日
    浏览(45)
  • AI 绘画用 Stable Diffusion 图生图局部重绘功能给美女换装(这是我能看的嘛)

    昨天带大家一起装好了 Stable Diffusion 的环境,今天就来带大家一起体验一下 Stable Diffusion 的 局部重绘 功能。 没装好环境的可以看上一篇:AI 绘画基于 Kaggle 10 分钟搭建 Stable Diffusion(保姆级教程) Stable Diffusion 的局部重绘使用非常简单,大家按图一步步操作即可: 点击“图

    2024年02月11日
    浏览(45)
  • 【stable diffusion】保姆级入门课程03-Stable diffusion(SD)图生图-涂鸦(绘图)的用法

    目录    0.本章素材 1.涂鸦有什么用 2.涂鸦的使用场景是什么 3.操作面板 4.提示词与涂鸦 5.涂鸦与重绘幅度 6.涂鸦的其他用法(自由创作) 7.课后训练 涂鸦(绘图)和图生图一样,都会基于重绘幅度改变整张图片的整张画风,构图,姿势 等,这点是需要同学们注意的 涂鸦就是用画笔

    2024年02月16日
    浏览(59)
  • 【stable diffusion】保姆级入门课程04-Stable diffusion(SD)图生图-局部重绘的用法

    目录 0.本章素材 1.什么是局部重绘 2.局部重绘和涂鸦有什么不同 3.操作界面讲解 3.1.蒙版模糊 3.2.蒙版模式 3.3.蒙版蒙住的内容 3.4.重绘区域 4.局部重绘的应用(面部修复) 5.课后训练 局部重绘是不改变整体图片的构图的情况下,对图片的某个区域进行重绘,局部重绘是利用蒙

    2024年02月16日
    浏览(42)
  • 【stable diffusion】保姆级入门课程05-Stable diffusion(SD)图生图-涂鸦重绘的用法

    涂鸦重绘又称手涂蒙版。 简单来说,局部重绘手涂蒙版 就是涂鸦+局部重绘的结合体,这个功能的出现是为了解决用户不想改变整张图片的情况下,对多个元素进行修改。 功能支持: 1.支持蒙版功能 2.笔刷决定绘制的元素颜色 3.支持多种颜色在一张图片上 与局部重绘的界面

    2024年02月15日
    浏览(40)
  • 【stable diffusion】保姆级入门课程06-Stable diffusion(SD)图生图-上传蒙版及批量处理的用法

    目录 0.本章素材 1.什么是上传蒙版 1.1.注意点 1.2.提示词部份 2.批量处理 3.涂鸦、局部重绘、涂鸦蒙版、上传蒙版 4.结语 上传蒙版的界面和局部重绘的界面是一样,功能上也是完全一致的,但是 唯一不同的是多了一个蒙版上传区域 这是因为当用户需要更加精细的对图片进行操

    2024年02月11日
    浏览(41)
  • AI 绘画Stable Diffusion 研究(十五)SD Embedding详解

    大家好,我是风雨无阻。 本期内容: Embedding是什么? Embedding有什么作用? Embedding如何下载安装? 如何使用Embedding? 大家还记得 AI 绘画Stable Diffusion 研究(七) 一文读懂 Stable Diffusion 工作原理 这篇文章中,曾提到过词嵌入(Embedding)吗? 我们来简单回顾一下:Embedding 将输

    2024年02月11日
    浏览(34)
  • AI 绘画Stable Diffusion 研究(十六)SD Hypernetwork详解

    大家好,我是风雨无阻。 本期内容: 什么是 Hypernetwork? Hypernetwork 与其他模型的区别? Hypernetwork 原理 Hypernetwork 如何下载安装? Hypernetwork 如何使用? 在上一篇文章中,我们详细介绍了 embedding 的定义、作用以及如何安装使用 ,相信看过的朋友都知道,embedding 是属于一种将

    2024年02月11日
    浏览(37)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包