编者按:本文来自微信公众号“图灵TOPIA”(ID:turingtopia),作者刘静,编辑 李尔客;36氪经授权发布。
“现在的电视剧越来越不好看了”
“想重温一下老电影、老电视剧,但是打开后却被渣画质劝退。”
“去年《英雄本色》的修复版好棒啊,发哥和哥哥美颜盛世重现江湖。多一些老电影的修复版就好了!”
可能每一代人都有自己的审美。
对新戏,我们偶尔吐槽;而对经典,我们总是怀念。
现在,AI可以帮助你在观看老电视剧、老电影的时候获得更佳的观影体验:低成本地将渣画质修复为4K 超高清!
在过去的几年里,电影和视频标准不断发展,人们对高保真图像和分辨率的要求也越来越高。
4K是当前的标准,8K体验在未来也将会成为新的标准,旧内容显然不符合今天观众的视觉审美。
重塑旧内容,以匹配这些新标准,已成为业内的一种普遍做法。这允许观众重温旧时的最爱,并在现代的观看体验中享受它们。
然而,随着分辨率的提高,在没有主要工件的情况下重新制作内容变得更加困难。工作室必须应用额外的资源并管理更长的交付时间,以生成合适的优质内容。
为了满足不断增长的创新步伐,一家公司正在开发一种新的AI增强型解决方案,以更低的成本超越视觉预期。
总部位于洛杉矶的 VideoGorillas开发了最先进的媒体技术,该技术融合了基于NVIDIA CUDA-X和Studio Stack的人工智能技术。
通过集成GPU加速的机器学习、深度学习和计算机视觉,他们的技术使工作室能够在重新制作时实现更高的视觉保真度和更高的工作效率。
他们正在开发的是一种新的生产辅助AI技术,称为Bigfoot超分辨率。这种技术通过使用神经网络来预测缺失的像素,从而将电影从480p转换为4K,这些像素质量高得令人难以置信,因此原始内容几乎与4K电影里面出现的一样。
“Bigfoot Super Resolution是一种采用NVIDIA RTX技术升级的全新方法,专注于提供目前使用传统方法无法实现的视频质量和操作效率。
我们非常高兴能将此解决方案推向市场,并期待帮助我们的工作室和广播合作伙伴从其内容库中获取增量价值。“ -Jason Brahms,VideoGorillas首席执行官。
随着Video Gorillas不断完善这一技术,他们的目标是为广播公司和主要电影制片厂提供一种更好的方式来重新制作其内容库,同时保留原创艺术意图。
“我们正在为电影和电视材料创造一个基于人工智能技术的新视觉词汇。我们正在训练神经网络去除各种视觉伪影,同时去了解我们重塑内容所处的时代以及相关的流派和媒介。
利用这些神经网络,我们可以提高感知质量,保持材料的原始外观和感觉”——Alex Zhukov,VideoGorillas的CTO
VideoGorillas的研究团队为每个项目训练了一个独特的递归神经网络(RNN),由NVIDIA GPU加速。
网络使用相同的制作方法,学习同一时代、同一类型中创作的标题的特征。然后通过该网络传递的新内容保持该时代/流派的外观和感觉,从而保留原有艺术意图。
生成对抗网络(GAN)用于去除低分辨率区域中不需要的噪声和伪影,同时用新的图像合成和升级来替代它们。结果是产生一个模型,可以识别什么时候会发生视力丧失。
这些网络使用CUDA和cuDNN与Pytorch一起训练,每部电影有数百万张图像。但是,加载数千张图像会在其管道中造成瓶颈。VideoGorillas因此整合了DALI(NVIDIA数据加载库)以加快训练时间。
视频的基石是相邻帧之间的视觉信息的聚合。VideoGorillas使用光流来计算图像之间像素的相对运动。它提供了帧的一致性,并最大限度地减少了图像中的任何上下文或样式丢失。
通过AI增强的这种新的视觉保真度只有在NVIDIA RTX上才有可能实现,与混合精度和分布式训练工作流程相比,它可提供比CPU高200倍的性能提升。
视频Gorillas使用RTX 2080和NVIDIA Quadro为大型项目训练超级分辨率网络。
NVIDIA Quadro提供的额外功率使VideoGorillas能够将高分辨率应用于HDR,高位深度视频分辨率高达8K,并实现了更快的光流性能。
RTX GPU的Tensor内核提供了超过CPU的计算性能,使其成为VideoGorillas模型中混合精度训练的理想选择。
“对于CPU来说,把视频分辨率提高到4k和8k真的是不可能的 - 它的执行速度太慢了。NVIDIA GPU是实现具有更高图像质量的超高分辨率的唯一选择“ - Alex Zhukov,VideoGorillas的CTO
虽然本地解决方案可以完美地满足他们的训练需求,但他们还使用NVIDIA Kubernetes将工作负载扩展到云端,在本地数据中心以及Amazon Web Services和Google Cloud Platform中运行,以协调由NVIDIA Tesla V100 gpu加速的Soper Res推理作业。
参考链接:
https://news.developer.nvidia.com/researchers-at-videogorillas-use-ai-to-remaster-archived-content-to-4k-resolution-and-above/