新闻编辑室如何应对deepfake？

编者按：本文来自微信公众号“全媒派”（ID：quanmeipai），作者 腾讯传媒，36氪经授权发布。

也许你还不了解deepfake？但一定听说过“Ai换脸”。从2017年Reddit用户“deepfakes”第一次上传换脸视频，到B站up主将朱茵的脸换成杨幂，再到一夜风靡全国的ZAO换脸App，深度伪造（deepfake）正一步步走入我们的生活，同时也走向极端——女星换脸的情色视频引发争议，假新闻视频滋生。

原本饰演“黄蓉”一角的朱茵变成了杨幂

随着2020年美国大选的临近，基于deepfake所散播的虚假信息也如滚雪球般愈演愈烈，《大西洋月刊》和政策研究所纷纷撰文告诫大众小心deepfake对选举的影响，避免被假视频所迷惑。本期全媒派（ID：quanmeipai）编译尼曼新闻实验室的文章，为你解析deepfake会对新闻真实性造成怎样的冲击，我们又该如何应对。

危机将至还是虚惊一场？

深度伪造似乎已经引起了新闻界的普遍恐慌，近来《纽约时报》等媒体纷纷发表文章表达自己的担忧：

“深度伪造来临，眼见不再为实。”——《纽约时报》 

“深度伪造视频越来越真实，这是一个大问题。”——《华尔街日报》 

“AI顶尖研究员竞相制作深度伪造视频，我们正处于劣势。”——《华盛顿邮报》

主流媒体的头条使我们深信，智能的深度伪造将使人难辨真假。德国纽伦堡大学的相关团队发布的Face2Face应用，已经可以通过摄像头进行脸部追踪，从而让视频里的人跟着你说话。可以断言，deepfake加剧了虚假信息的传播，其对新闻真实性的威胁也是真实存在的。

UC Berkeley研究者比较真假人物的面部差异 

正如打击虚假信息的非营利组织“初稿”(First Draft)负责人Claire Wardle所恳求的，“如果你不能百分之百确定一个视频是真的，请不要分享，不值得冒险。”深度伪造对新闻业的影响更多的是在媒体生态。随着深度伪造逐渐成为我们信息生态系统的日常组成部分，它们可能会阻碍新闻编辑部快速有效地应对虚假信息。

另一方面，这一繁重的审核任务也会减缓编辑部对真实信息的报道速度。不难想象，假如一家媒体发布了一段白宫工作人员透露给它的视频，结果白宫却指责这家媒体在传播“深度伪造”内容，最后只会引发了一场极具政治色彩的辩论，披露的丑闻不太可能为大众所接受。这样的事件会削弱新闻编辑部的信誉，甚至会降低告密者站出来揭发的意愿。

当然，面对deepfake的威胁也不必过于惊慌，我们完全可以通过编辑部的干预来减轻这种威胁。而且得益于快速提高的检测能力，以及越来越多的新闻报道，公众对这项技术的认识在不断提高，深度伪造的影响未来可能会进一步减弱。正如现在大众已经熟知了PS技术，充分认识到“有图也可能无真相”，也不会轻易相信恶搞的表情包。

谎言漫天如何应对？

面对deepfake，一方面要坚守新闻伦理的价值观，另一方面又需要确保新闻编辑部能够继续履行其职责——制止虚假信息的传播。那么，究竟该怎么做呢？

借力专家团

首先，新闻编辑部必须提高检验深度伪造的能力，扩建技术库，加强与深度伪造技术研究机构的合作。新闻编辑部如果能使用最先进的工具来检验内容的真实性，便能更好地制止虚假信息的传播。或者组建一个由研究人员和专家负责的“batphone”热线（源自《蝙蝠侠》，与蝙蝠侠联络用的红色热线电话），编辑部向该热线系统提交可疑内容，进行实时的核查并揭露虚假信息。

微软亚洲研究院开发的模型分别提取蒙娜丽莎和赫本图片中的身份信息和属性信息进行合成

“直播”核查过程

其次，在短期内，新闻编辑部可能会倾向于报道核查的过程，而不是单单给出一个结论。

他们会公开自己的调查过程，记录核实媒体的方法，以及做决定时所面临的伦理挑战。就像直播重大政治事件或体育赛事，他们也可以实时报道关于深度伪造的调查，为突发新闻提供缓冲时间，提升法律决策的透明度。

对于那些火爆的、精心制作的伪造内容，这样的缓冲和透明度尤为重要。因为这种情况下，可能需要几个小时或者几天才能判断出内容是否伪造，但是记者保持沉默只会让不那么谨慎的声音喧嚣不停。

联系“前后文”找漏洞

新闻内容的背景仍是评估其真实性以及摸清虚假信息传播议程的关键部分。一篇内容是如何出现在网上的？这些内容与传播的信息是否协调？其报道的事件发生在何时何地？是否有其他媒体的报道证实了这段视频或图像？

在许多情况下，社交媒体平台掌握着背景数据的关键。提高平台和新闻编辑室之间的透明度和协作，可以有效提升记者的事实核查能力。

深度伪造不会从根本上重构公众与媒体之间的关系，然而，无论专栏作家们悲观的预测是否成真，在一个充斥着谎言的世界，新闻编辑部将被迫肩负起新的重担——需要发展新的合作伙伴和运转规则，以防事实核查工作陷入瘫痪。

而且这个创新过程是多边的，深度伪造泛滥的当下，编辑部很难凭一己之力完成这项任务。要想维护新闻业的诚信，在伪造的泥塘中前行，需要政府机构、专业媒体、研究人员、社交平台和普通用户的共同努力。

原文链接：

https://www.niemanlab.org/2019/11/what-should-newsrooms-do-about-deepfakes-these-three-things-for-starters/

参考文献：

1.http://www.qianjia.com/html/2019-11/06_354814.html

2.https://www.huxiu.com/article/311503.html

3.https://www.huxiu.com/article/233516.html

4.https://36kr.com/p/5266583