Bootstrap

AI视频修复速度10倍提升,论文已被ECCV 2024接收!

来源:量子位 & BlazeBVD团队

家人们,消除“视频闪烁”(比如画面突然一白)有新招了!

回想一下,当你看一部老电影或者用手机拍摄的视频时,画面偶尔会出现闪烁或颜色不一致等现象。

为了消除这些,来自美图影像研究院、中国科学院大学,以及四川大学的研究人员提出了一种新算法

e91981ac5cbf7642cc5c77c72210b457.png

新算法“BlazeBVD”可以自动消除视频中的闪烁,而且处理速度非常快,据称比现有方法快10倍

更妙的是!这种方法甚至无需事先知道视频闪烁的具体类型或程度。

换句话说,它是“盲”的,可以应用于各种不同的视频。

这下,即使拍摄环境光线变化,或者相机硬件跟不上也无需头疼了。[doge]

目前相关论文已被计算机视觉顶会ECCV 2024接收。

感兴趣的话,咱们接着康康~

bd3ad604a8698602b723ef248533f898.jpeg

BlazeBVD如何消除视频闪烁?

首先,受经典的STE(闪烁去除方法尺度时间均衡)启发,BlazeBVD引入了直方图辅助解决方案。

图像直方图被定义为像素值的分布,它被广泛应用于图像处理,以调整图像的亮度或对比度。

打个比方,图像直方图就像是一个统计表,它告诉我们在一张照片中,不同亮度的像素有多少。

871eeff63fb16fabf746016a89ebff5f.png

 图片由Claude 3.5 Sonnet生成

而STE通过分析视频中每一帧的直方图,然后用一种叫做高斯滤波的方法来平滑这些直方图,先初步矫正直方图分布突变的图像帧,能够让画面看起来更加稳定,减少闪烁。

虽然STE只对一些轻微的闪烁有效,但它验证了

  • 直方图比原始的像素数据更简洁,能够更有效地捕捉到视频中的亮度变化和闪烁。

  • 通过平滑直方图,可以减少视频中的闪烁现象,让视频看起来更稳定。

因此,利用STE和直方图的提示来提高盲视频去闪烁的质量和速度是可行的。

具体而言,BlazeBVD包括三个阶段。

8a239e060f141b269b768a1973182b02.png

BlazeBVD三阶段详解

就像医生治病一样,BlazeBVD会首先检查视频的每一帧。

它引入了STE对视频帧在光照空间下的直方图序列进行校正。

e2d28bbd55c1272beb39f27f771abacf.png

然后从处理过的帧中提取出重要信息,比如哪些帧闪烁最明显(奇异帧集)、哪些地方光线需要调整(滤波后的光照图),以及哪些地方曝光过度或不足(曝光图)

接下来,BlazeBVD开始进行修复

一方面,BlazeBVD使用一个叫做全局闪烁去除模块(GFRM)的工具,利用之前提取的光照图来调整整个视频的光线,确保每一帧的亮度和颜色看起来都很自然。

另一方面,对于一些特别需要关注的局部区域,比如曝光过度或不足的地方,BlazeBVD会使用局部闪烁去除模块(LFRM)。这个模块会利用光流信息(就像追踪物体在视频中的运动)来修复这些区域的细节。

完成这一步,BlazeBVD最后进行完善工作

它引入一个轻量级的时序网络(TCM),这个网络就像是视频的“美容师”,确保每一帧在视觉上都是平滑过渡的,没有突兀的变化。

为了进一步提高视频的一致性,BlazeBVD设计了一种特殊的评分系统(自适应掩模加权损失)。这个系统会给每一帧打分,确保它们在视觉上的一致性,让整个视频看起来更加流畅和自然。

至此,BlazeBVD完成了整个“诊治”流程。

实验结果

那么,BlazeBVD究竟效果如何呢?

直接看已有方法与BlazeBVD在盲视频去闪烁任务上的结果对比:

3b3cf318612b3260d4446198cce5679b.png

其中Deflicker为已有方法,GT(Ground Truth)表示理想的无闪烁视频,而KL散度表示处理后的视频与理想无闪烁视频之间的差异。KL数值越大,差异越大。

可以看出,BlazeBVD能很好地恢复照明直方图,同时避免出现颜色伪影和颜色失真(例如第二列男人的手臂)

再进一步和基线方法进行量化对比:

62669cbc28f2806eaf260aa336b7a768.png

BlazeBVD在PSNR(峰值信噪比,数值越高表示视频质量越好)和SSIM(结构相似性指数,数值接近1表示视频质量越好)上得分较高,且在Ewarp(数值越低,视频越连贯一致)得分较低。

一句话,BlazeBVD超越了已有基线方法。

为了直观展现这种差别,BlazeBVD与基线方法的可视化对比如下:

b412c8e7d8fee91c4735d21ed34b2ea6.png

消融实验也验证了BlazeBVD所设计模块的有效性:

eeb0109c6110b2a98ab3a9add06d5e73.png

概括而言,通过对合成视频、真实视频和生成视频的综合实验,BlazeBVD展现了优越的定性和定量结果,并且比最先进的模型推理速度快10倍。

4668b800910cb5a07be7404167aa3947.png

目前相关论文已公开,感兴趣可以进一步了解。

论文:
https://arxiv.org/html/2403.06243v1

推荐阅读

欢迎大家加入DLer-计算机视觉技术交流群!

大家好,群里会第一时间发布计算机视觉方向的前沿论文解读和交流分享,主要方向有:图像分类、Transformer、目标检测、目标跟踪、点云与语义分割、GAN、超分辨率、人脸检测与识别、动作行为与时空运动、模型压缩和量化剪枝、迁移学习、人体姿态估计等内容。

进群请备注:研究方向+学校/公司+昵称(如图像分类+上交+小明)

5474e31e52de9776449f8beef5363cf5.jpeg

👆 长按识别,邀请您进群!

f99001cbdd132e08a2dafb09bb22018f.gif

;