字节跳动发布最新AI视频模型Magic Animate(附教程)

这篇具有很好参考价值的文章主要介绍了字节跳动发布最新AI视频模型Magic Animate(附教程)。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

magic-animate显存不足,AI,ai

仅仅需要一张图片加上动作轨迹,就可以生成非常自然且丝滑的视频,无论是钢铁侠跳舞还是奥特曼跑步都可以轻轻松松的制作出来,并且没有闪烁衣服上面的褶皱,周围物体上的光线反应,可以说是做的非常完美。

magic-animate显存不足,AI,aimagic-animate显存不足,AI,ai

但是阿里并没有发布具体的操作流程和项目测试,这个项目很快就被字节跳动秒杀了。字节跳动提供了代码和具体的演示,不仅支持把静态的图片变成有动作的视频,而且还可以结合文本生成动画,还支持多人照片实现动作驱动,简直是太秀了。

magic-animate显存不足,AI,aimagic-animate显存不足,AI,ai

并且发布了colab和hugging face的在线体验版本,无需本地部署就可以体验到最新的研究成果。

今天我们就一起来看看字节跳动发布的magic animate。

本文主要分为三个部分:

一、magic animate的一些简单介绍

二、magicanimate的操作演示

三、动作轨迹视频的制作方法

一.magic animate的一些简单介绍

字节跳动发布的magic anim magic anim是一个基于扩散模型的人类图像动画框架,意在强调时间一致性,忠实保留参考图像并提高动画的真实感,可以在推理的过程中产生平滑的视频。

magic-animate显存不足,AI,ai

除了基本的图像动画化,Magic anim还能应用于更多的场景,如将未见领域的图像,例如油画或电影角色动画化。或者结合文本描述生成动画。

magic-animate显存不足,AI,aimagic-animate显存不足,AI,ai

这种技术在动画制作、游戏设计、虚拟现实等领域将会具有更广泛的应用潜力。

magic-animate显存不足,AI,ai

我们可以看看这个软件生成的视频,由三个部分组成。原始图像参考动作轨迹、视频和生成后的画面形成了一个对照组,这与之前的一些工具是不同的,之前的工具一般只展示最终的成品效果。

magic-animate显存不足,AI,ai

多人动画功能也是非常吸引人的,我们按照对应的位置为图片上不同的角色设定不同的动作,从而使多个人物动画化。

magic-animate显存不足,AI,ai

二.magicanimate的操作演示

接下来看一下具体如何操作。目前在git hub项目界面可以看到部署在本地的代码,但是就测试结果来看还是存在一定的不足,感兴趣的小伙伴可以按照步骤进行本地部署的尝试。

magic-animate显存不足,AI,ai

我们今天主要展示两种可以快速体验到这个工具的方法,那就是使用hugging face和Google Colab,两种方法都可以实现图片的动画效果,但是我更推荐大家使用Colab进行测试,因为hugging face的等待时间会更长一些,并且会存在等待队列,需要进行排队才能进行使用。

而使用Colab则可以直接进行合成。在这里两种方法我都会进行演示。首先我们来演示hugging face。我们打开hugging face的链接。

magic-animate显存不足,AI,ai

最上面的界面是生成的成品,在左侧第二栏,我们可以将需要添加动画的原始图片放进去,中间需要上传动作序列视频,这个序列视频也可以自己制作。

magic-animate显存不足,AI,ai

在下一个片段,我会着重对序列视频的制作进行讲解,都是可以一键生成的,操作也是非常简单的。最右侧是一些合成的参数,一般选择默认的就可以了,或者我们可以点击下方的例子,直接更换原始图片就可以生成作品了。

比如,我们点击跑步的姿势,删掉示例的原始图片,上传一张新的图片,然后点击生成。

magic-animate显存不足,AI,aimagic-animate显存不足,AI,ai

我们可以看到上方提示需要进行等待排队的队列比较多,成品是这样的。

magic-animate显存不足,AI,aimagic-animate显存不足,AI,ai

然后我们来看看如何使用Colab进行线上测试。我们打开Colab的链接,执行页面上面的代码,我们点击运行单元格,这里需要稍微等待一下,大概两三分钟左右就可以完成下载。

magic-animate显存不足,AI,aimagic-animate显存不足,AI,ai

等到下载完成之后,在下方会出现操作界面的链接,本地的和共享呢都是可以进行使用的,我们优先选择使用本地的,如果有出现本地界面无法访问的情形,我们可以点击打开共享界面的链接。

magic-animate显存不足,AI,ai

按照刚才的方法上传原始图片和参考动作序列视频。然后点击生成就可以了,这里等待的时间会短很多,不需要进行排队,可以直接生成。

magic-animate显存不足,AI,ai

三.动作轨迹视频的制作方法

这里有两种使用vid2densepose的方法,一种是使用Google Colab的方法,另一种则是采用一键部署的方法,利用工具将vid2densepose部署在本地进行使用,但是这个工具只支持n卡,稍后会进行详细的讲解。

首先来看看使用Google Colab的方法。打开Google的链接,点击运行第一个和第二个单元格,运行完成之后,点击左侧的文件上传我们的原始视频素材。

magic-animate显存不足,AI,aimagic-animate显存不足,AI,ai

我们右键重命名,输入input video,我这里的视频名称已经提前进行了命名,因此不需要进行修改,我们需要在这里指定输入输出视频的名称和路径,如果想要知道文件的路径的话,我们右键。复制视频的路径。然后来到这里进行粘贴。这里一定要注意,路径需要使用英文的引号引起来,不然会无法识别。

magic-animate显存不足,AI,aimagic-animate显存不足,AI,ai

然后我们按照输入路径的方式写出输出的路径。然后点击运行单元格就可以了。生成的输出视频就在文件里,如果想要下载的话,我们点击右边的三个点,点击下载。

magic-animate显存不足,AI,ai

这样就可以在本地查看了,视频前后的对比是这样的。

magic-animate显存不足,AI,ai

然后我们来看看另一种方法,那就是使用pinokio一键部署到本地。首先我们打开一键部署的链接,点击下载pinokio。下载完成之后,我们将压缩包粘贴在一个空白的文件夹里,然后右键解压到当前文件夹,我们点击这个应用程序就可以完成下载了。

magic-animate显存不足,AI,aimagic-animate显存不足,AI,aimagic-animate显存不足,AI,aimagic-animate显存不足,AI,ai

这里不要改变路径,否则会无法使用。然后我们点击访问发现界面。

magic-animate显存不足,AI,ai

点击vid2densepose选项。

magic-animate显存不足,AI,ai

注意需要选择适配magic animate的这一个,然后点击下载就可以了。

magic-animate显存不足,AI,ai

下载完成之后,我们在pinokio中打开vid2densepose的链接就可以了,这样就可以在本地运行了。

magic-animate显存不足,AI,ai

并且使用的是本地电脑的算力,电脑的配置越高,生成的速度也会越快。我们可以看到这个界面上还有很多其他的工具可以选择,也可以在这里一键部署magic animate,这样就可以在本地使用了,但是使用的前提是电脑需要有n卡。文章来源地址https://www.toymoban.com/news/detail-777029.html

到了这里,关于字节跳动发布最新AI视频模型Magic Animate(附教程)的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 体验百度文心一言、字节跳动豆包和讯飞星火AI大模型生成邓文迪biography

    邓文迪(英文名:Wendi Deng Murdoch,1968年12月5日-),美籍华人,是传媒大亨—新闻集团总裁鲁伯特·默多克的第三任妻子,曾任新闻集团亚洲卫星电视业务的副主席。她被称为“一个传奇的中国女人”。邓文迪的经历如下: 1968年12月5日出生于山东济南市,随后举家迁至江苏徐

    2024年02月01日
    浏览(88)
  • 体验百度文心一言、字节跳动豆包和讯飞星火AI大模型生成比尔·盖茨Biography

    比尔·盖茨(Bill Gates)(1955年10月28日——),全名是威廉·亨利·盖茨三世,出生在美国华盛顿州西雅图,18岁考入哈佛大学,著名企业家、软件工程师、慈善家、微软公司创始人、中国工程院院士(外籍)。他是享誉世界的计算机操作系统领导者、人类信息化发展的先驱者

    2024年02月01日
    浏览(76)
  • 体验百度文心一言、字节跳动豆包和讯飞星火AI大模型生成泰勒·斯威夫特biography

    Taylor Swift,1989年12月13日出生于美国宾夕法尼亚州,美国乡村女歌手、演员、编剧、制片人。其部分获奖信息如下: 奖项 时间 颁奖方 第52届格莱美奖年度专辑奖 2008年 格莱美奖 第47届乡村音乐协会奖“巅峰奖” 2013年 乡村音乐协会奖 IFPI的2014全球录音大奖 2014年 IFPI 第63届格

    2024年01月24日
    浏览(85)
  • 字节跳动最新开源!超实用的UI轮子库,我只是个轮子搬运工

    宫格类型:使用 QMUIBottomSheet.BottomGridSheetBuilder 生成。 QMUICommonListItemView 用作通用列表 QMUIGroupListView 里的 Item,也可单独使用。支持以下样式: 展示一行文字。 在右侧或下方增加一行说明文字。 在 item 右侧显示一个开关或箭头或自定义的View QMUIDialog 提供了一系列常用的对话

    2024年04月12日
    浏览(36)
  • 国内免费 AI 绘画工具:字节跳动的 Dreamina

    有没有想过,如果有一天,你可以轻轻松松地创作出好看的绘画作品,即使你连画笔都没怎么拿过?嘿,说不定这一天就在今天。字节跳动,这家大家都不陌生的科技企业,最近打造出了一款 AI 绘画工具—— Dreamina 。 它不仅仅是你的数字绘画好帮手,而且相比于其他市面上

    2024年04月25日
    浏览(50)
  • Android获取本机各种类型文件列表(音乐、视频,作为字节跳动面试官

    获取视频列表 /** 获取本机视频列表 @return */ public List getVideos() { List videos = new ArrayList(); Cursor c = null; try { // String[] mediaColumns = { “_id”, “_data”, “_display_name”, // “_size”, “date_modified”, “duration”, “resolution” }; c = mContentResolver.query(MediaStore.Video.Media.EXTERNAL_CONTENT_URI, nu

    2024年04月12日
    浏览(45)
  • 字节跳动官方出品AI,白嫖使用GPT4!

    关注我,紧跟本系列专栏文章,咱们下篇再续! 作者简介:魔都技术专家兼架构,多家大厂后端一线研发经验,各大技术社区头部专家博主,编程严选网创始人。具有丰富的引领团队经验,深厚业务架构和解决方案的积累。 负责: 中央/分销预订系统性能优化 活动优惠券等

    2024年02月21日
    浏览(63)
  • 字节跳动音视频面试一面挂!!,狂刷200道数据结构与算法

    线程执行结束,我们怎么知道他结束了,其实是ipc的问题… tcp和http区别 然后让我手算255.255.250.0子网掩码的IP可以有多少个,应该是8+2,所以是2的10次方个 刚开始记错了,32/4是8,记成了6,面试官一直问我确认吗,还好后来反应过来了… ndk了解吗 音视频为什么编码,常见的

    2024年04月28日
    浏览(50)
  • Stable Diffusion——Animate Diff一键AI图像转视频

    AnimateDiff 是一个实用框架,可以对文本生成图像模型进行动画处理,无需进行特定模型调整,即可为大多数现有的个性化文本转图像模型提供动画化能力。而Animatediff 已更新至 2.0 版本和3.0两个版本,相较于 1.0 版本,2.0和3.0版本主要新增了三个插件功能:Lora、ControlNet 和 P

    2024年03月09日
    浏览(41)
  • 斯坦福发布 最新 GPT 模型排行榜 AlpacaEval【AI工具免费使用】

    官网地址:https://www.tomchat.fun 🤖 支持gpt4 / gpt-3.5 / claude /code-llm 🎨 支持 AI绘画 🆓 每天十次免费使用机会 🪄 无需魔法 GPT-4 登顶商用模型 微软 WizardLM 登顶开源模型 AlpacaEva 是来自斯坦福的团队发布的一款 大语言模型 自动评测系统, 它是一种基于 LLM 的全自动评估基准,且

    2024年02月02日
    浏览(59)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包