Facebook训练AI欺骗人脸识别系统，推动解决深度伪造问题

编者按：本文来自微信公众号“全媒派”（ID：quanmeipai），作者 腾讯传媒，36氪经授权发布。

人脸识别系统亦正亦邪，在无监管情况下的使用隐患重重。虽然Facebook深陷人脸识别数据诉讼牵连，但仍致力于相关研究，开发出可用于实时视频的反识别系统，为解决伪造视频问题提供了新出路。本期全媒派（ID：quanmeipai）编译The Verge文章，带你走近Facebook最新研究成果。

虽然Facebook仍然受到关于其人脸识别数据隐私管理、可能赔付数十亿美金的诉讼案的牵连，但是Facebook人工智能研究部门（Facebook AI Research, FAIR）并没有因此停止在该领域的研发工作。据VentureBeat报道称，FAIR已开发出一套最先进的“反识别”系统，不仅可在视频中使用，甚至可以运用于实时视频。该系统通过机器学习法实时改变视频人物的主要面部特征，以此达到让面部识别系统误判人物身份的目的。

这种反识别技术早已存在，并且有专门的公司研究如何将其运用于静止的图像，比如Israeli AI和D-ID。今年4月，一群来自比利时KULeuven大学的工程师展示了如何利用简单的图像欺骗AI系统。

如下图所示，将这种经特殊设计的图案打印出来并挂在脖子上，AI系统将无法识别出携带者，就像是该对象穿上了隐身斗篷。甚至有研究者称，“我们有理由相信，可以利用该技术设计出让人从监控系统中消失的衣服。”

这种看似诡异的现象，其实在AI界早已声名远扬；这些图案，也被称作对抗图案（Adversarial Example）。对抗图案的原理是利用电脑视觉软件在被训练识别特定特征的过程中产生的漏洞，让识别系统误判。例如，戴上下图中印有对抗图案的太阳眼镜就能让面部识别系统误认为你是女演员Milla Jovovich。

但上述做法主要应用于从监控摄像头或其他渠道获得的照片或静止影像，或者事先计划好利用对抗图像欺骗人脸识别系统。但Facebook的研究成果是针对于实时影像和视频脚本，FAIR称这项成果在行业里是史无前例的，且足以对抗精密的人脸识别系统。下面的动图就是个例子。

VentureBeat引用了一篇Facebook阐述该项研究的报告：“人脸识别技术能让人们失去隐私，脸部替换技术可能会被恶意用于制作误导性视频。最近，全世界关于人脸识别技术的发展和滥用事件刺激了人们想要去了解反人脸识别技术的需求和渴望。我们的研究成果是唯一可适用于包括直播视频在内的所有视频文件的技术，并且呈现的效果远超理论值。”

据VentureBeat称，Facebook并不打算将这项技术用于任何旗下商业产品。但该研究可能会影响个人隐私保护工具的未来发展，并且，由于Facebook强调“误导性视频”，还能防止个人影像被用于伪造视频。

AI行业目前正在努力攻克伪造视频的难题和其日益精密复杂的制作工具。Facebook的研究成果提供了一种可行的方法，同时立法机关和科技公司也在尝试推出类似伪造视频检测软件的其他工具，以及限制伪造视频、影像、音频传播的规章制度。

今年6月，民主党人士Adam Schiff发出警告，深度伪造视频可能会对2020年大选造成灾难性的后果。在一则经过编辑的视频上，美国众议院议长Nancy Pelosi显得酩酊大醉，该条视频疯传于各大社交媒体，但是各大平台对此做出不同反应：YouTube删除该视频，Facebook保留该视频同时还将用户导流向相关报道，Twitter则任其传播。事发几周后，在众议院情报委员会听证会上，Schiff向给予社交平台“豁免权”的《通讯端正法》第230条发起挑战，寻求修改相关律法的可能性，因为在目前的法律环境下，社交网络公司并不对其平台上发布的内容负有法律责任。

FAIR的研究同时还解决了面部识别技术不受监管的问题。这个问题已让立法机构和学者们忧心忡忡，如果面部识别技术仍然在不受法律、政府和企业的监管下继续使用，可能会侵犯人权。Georgetown法学院的一项研究发现，在将图像录入人脸识别系统前，纽约警察局有时会修改图像。甚至其曾经直接使用过演员Woody Harrelson的照片，仅仅是因为一条嫌疑人长得像Harrelson的提示。

参考链接：

1.https://www.theverge.com/2019/8/8/20792326/facebook-facial-recognition-appeals-decision-damages-payment-court

2.https://www.theverge.com/2019/4/23/18512472/fool-ai-surveillance-adversarial-example-yolov2-person-detection

3.https://www.theverge.com/2016/11/3/13507542/facial-recognition-glasses-trick-impersonate-fool

4.https://www.theverge.com/2019/6/13/18677847/deep-fakes-regulation-facebook-adam-schiff-congress-artificial-intelligence

5.https://www.theverge.com/2019/8/19/20812032/bernie-sanders-facial-recognition-police-ban-surveillance-reform