Bootstrap

手把手教你用SD做转绘视频

所谓转绘视频,其实质就是将视频分切成序列帧,然后对序列帧做转绘,再将转绘后的序列帧合成为视频的一个过程。但如果是将每一帧都进行手工转绘处理,不仅工作量大,而且由于每一帧会存在差异,将导致最终合成的视频出现画面闪烁的情况。

为解决这一问题,在SD中我们将引入Ebsynth这一工具。利用ebsynth将视频分切,然后提取视频主体动作幅度相近的帧作为关键帧,在SD中对这部分关键帧做转绘处理,用ebsynth渲染关键帧之间的过渡帧,最后将输出的所有帧合成为视频。

这就是整个转绘的原理,下面是手把手的流程:

1、软件准备:

SD部分:controlnet插件(包括预处理器的模型)、ebsynth插件的安装

Ebsynth部分:独立于SD之外的应用程序

https://ebsynth.com/

在这里下载ebsynth软件压缩包,解压后不需要安装就可以直接使用。

Ffmpeg:关于这个软件我们前面已经提到过很多次了,不再赘述。

2、源视频材料的准备:

选一段你需要转绘的视频,放在某处专门的文件夹中。长度不要太长,尽量控制在10秒左右。查看清楚视频的分辨率(宽、高)和帧率。

 方法:在视频上右键点击,选择属性,选择详细信息就可以看到这些参数。

3、源视频的分帧处理:

在SD界面选择Ebsynth插件:

在1处的工程目录中,填入放置源视频的文件夹或者某个专门的文件夹作为转绘项目的专门文件夹。

在2处将源视频上传过来。

其它地方都保持默认即可。点击生成(步骤1)。

在你的工程目录文件夹中会出现这样的文件夹:

video_frame:放着源视频分切出来的序列帧

video_mask:放着源视频分切出来的序列帧的蒙版帧

4、提取关键帧:

在左边点击插件设置,选择步骤2:

这一步我们只需要最小关键帧间隔。一般来说关键帧间隔越小,关键帧提取的数量越多,最后合成视频的流畅度就越好,但出现闪烁的几率也会比较大。这里我们将参数设置为3。然后点击右边第2 步的生成。

很快后台就提取出了全部关键帧。在我们的文件夹里出现一个新的文件夹:video_key

5、关键帧图片转绘处理:

拿到了关键帧之后,我们转到SD的图生图界面。

任取video_key文件夹中一张图片,上传到图生图界面。

利用Deepbooru反推图片的关键词,然后对关键词进行筛选、更改。将一些多余的关键词删掉,将一些特定画面才出现的关键词删掉(比如人物在某些画面是闭眼,在其它画面是睁眼,那么你就可以将关键词中“闭眼”的关键词删掉,否则转绘后所有画面人物都是闭眼)。

设置controlnet:根据经验选择2-3个controlnet单元控制就能保证生成的画面与源视频画面保持一致。(canny、depth、tile这三个预处理器)

有了这三个controlnet控制画面,采样器里面的重绘幅度就不用调得太低了,大致0.7左右就行了。

这些设置好之后,就可以开始跑图了。多跑几遍,选一个你满意的图片,将图片的seed复制下来。

6、关键帧批量处理:

将上面复制的图片seed粘贴到采样器的seed(种子)处。

将SD页面拖到最下面,在脚本的地方找到ebsynth utility,选择,在红圈处填入前面设置的工程目录:

其它地方还是保持默认

将三个controlnet处的图片全部删掉,都点选批量处理。

点击生成。

这部分是整个转绘流程最费时的部分。时间长短取决于你的电脑gpu配置。

这一步完成之后,在文件夹里又多出两个文件夹:

controlnet_input、img2img_key

img2img_key文件夹里面装的就是我们需要的转绘后的关键帧。

7、过渡帧的渲染绘制:

获得了转绘后的关键帧之后,我们回到Ebsynth插件界面,跳过步骤3.5、4,直接点选步骤5,点击生成。我们的文件夹中又会多出若干个.ebs文件:

文件的多少取决于我们源视频的长度。

现在我们要打开最开始下载的Ebsynth软件了(不是SD中的插件):

点击.exe执行文件:

在open处打开一个.ebs文件。有几个.ebs文件我们就打开几个.exe执行文件,将它们都放进Ebsynth:

点击每一个Ebsynth执行程序右下角的Run ALL,绿色的Synth会变灰,直到它们全部再变成绿色就表示程序跑完了。

这时我们的文件夹内会出现若干个新文件夹:

这些都是Ebsynth跑出来的过渡帧转绘图片。

8、合成视频:

这是整个转绘流程的最后一步。

我们重新回到SD的Ebsynth插件页面,选择右边的第七步,点击生成。后台会将上面out-文件夹中的转绘图片合成系的视频。

很快我们文件夹中就会多出两个新的视频,一个为无声视频,一个为有声音的视频。这就是我们要得到的转绘视频了。

以上就是SD+Ebsynth视频重绘的整个流程。

想要SD安装包和相关插件的小伙伴扫码可免费领取哦~

感兴趣的小伙伴,赠送全套AIGC学习资料,包含AI绘画、AI人工智能等前沿科技教程和软件工具,具体看这里。

在这里插入图片描述

AIGC技术的未来发展前景广阔,随着人工智能技术的不断发展,AIGC技术也将不断提高。未来,AIGC技术将在游戏和计算领域得到更广泛的应用,使游戏和计算系统具有更高效、更智能、更灵活的特性。同时,AIGC技术也将与人工智能技术紧密结合,在更多的领域得到广泛应用,对程序员来说影响至关重要。未来,AIGC技术将继续得到提高,同时也将与人工智能技术紧密结合,在更多的领域得到广泛应用。

在这里插入图片描述

一、AIGC所有方向的学习路线

AIGC所有方向的技术点做的整理,形成各个领域的知识点汇总,它的用处就在于,你可以按照下面的知识点去找对应的学习资源,保证自己学得较为全面。

在这里插入图片描述

在这里插入图片描述

二、AIGC必备工具

工具都帮大家整理好了,安装就可直接上手!
在这里插入图片描述

三、最新AIGC学习笔记

当我学到一定基础,有自己的理解能力的时候,会去阅读一些前辈整理的书籍或者手写的笔记资料,这些笔记详细记载了他们对一些技术点的理解,这些理解是比较独到,可以学到不一样的思路。
在这里插入图片描述
在这里插入图片描述

四、AIGC视频教程合集

观看全面零基础学习视频,看视频学习是最快捷也是最有效果的方式,跟着视频中老师的思路,从基础到深入,还是很容易入门的。

在这里插入图片描述

五、实战案例

纸上得来终觉浅,要学会跟着视频一起敲,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。
在这里插入图片描述

在这里插入图片描述

若有侵权,请联系删除

悦读

道可道,非常道;名可名,非常名。 无名,天地之始,有名,万物之母。 故常无欲,以观其妙,常有欲,以观其徼。 此两者,同出而异名,同谓之玄,玄之又玄,众妙之门。

;