骗过马斯克本尊的“中国马斯克”被扒真容!暴露了AI换脸的“阴暗面”

物联网智库
+ 关注
2022-05-16 13:13
650次阅读

资料来源:快科技等

作者:Alex

物联网智库 整理发布

导读

近日,那个被称为“中国版马斯克”的网红@马一龙0被微博禁言,间接坐实了其通过AI换脸技术假冒马斯克的行径。作为吃瓜群众我们可以对此一笑而过,但随着AI换脸技术门槛不断降低、技术不断成熟,其背后暴露的问题我们却不能以吃瓜的态度对待。
一名中国男子,因长相酷似马斯克,不仅迅速在国内网络走红,甚至还吸引了马斯克本尊的关注,玩起了隔空互动。这听起来如同“小说故事”一般的事情就在现实上演了?就当大家乐此不彼的以此为谈资,期待这“二马”有朝一日能见面时,翻车虽迟但至。

随着“中国版马斯克”的走红,越来越多的国内网友开始对他真实的样貌产生了兴趣,不过遗憾的是,通过网友不懈努力的深扒发现,这位“中国版马斯克”并非网络上流传视频中的样子,从曝光照片来看,其本人的长相和马斯克本尊不仅不像,甚至可以说是毫无关系。

因此,不少网友认为这位“中国版马斯克”实际上就是使用了AI换脸的软件来戏弄网友,从而博取关注度。

“中国版马斯克”走红和背后的频频质疑

骗过马斯克本尊的“中国马斯克”被扒真容!暴露了AI换脸的“阴暗面”
去年末,一段视频在外网引发了热议,视频中一位中国男子身穿黑色的大衣,梳着大背头,斜倚在一辆看起来脏兮兮的特斯拉旁边保持着微笑。最神奇的是,他的五官眉眼甚至神态都像极了世界首富、特斯拉CEO马斯克。
不少网友评论道,要不是他说着一口流利的中文,乍一看还真的以为是马斯克本人呢!也有网友说到,“这把头发染个色,去特斯拉工厂转一圈,员工都得出来迎接。”足以证明视频中男子与马斯克长相有多么相似。

骗过马斯克本尊的“中国马斯克”被扒真容!暴露了AI换脸的“阴暗面”

甚至在美国当地时间12月20日上午,马斯克本人也在推特上就此视频进行了回应:「我可能是‘半个’中国人”(Maybe I`m partly Chinese)」。
长相酷似,外加马斯克本人亲自互动,马斯克中国分克很快在国内网络上火了起来。自12月4日“中国版马斯克”发布第一条模仿视频后,极短时间里,就在抖音上就获得了十几万的点赞。随后他又连续发布了多条视频为自己开直播造势,并以“马斯克粉丝会”的名义号召人们加群。
不过,正是由于太过相像,不少网友也针对视频中的“中国版马斯克”产生了质疑,怀疑其使用了AI换脸技术。但当时由于视频多个角度变换里,他的脸都没有一丝AI换脸该有的僵硬与变形,因此对于“撞脸”的真相,网络上并没有一个定论。
骗过马斯克本尊的“中国马斯克”被扒真容!暴露了AI换脸的“阴暗面”
就在近日,这名长相百分之百与马斯克相似的“中国版马斯克”甚至又成功吸引到本尊的关注,两人甚至还上演了一场“隔空互动”。当时Twtter上有网友发布了马斯克和“中国版马斯克”的照片,并@了马斯克。随后马斯克回复该网友表示:「我想见见这个人(如果他是真的),目前这很难用深度造假技术来分辨。(I`d like to meet this guy(if he is real).Hard to tell with deepfakes these days.)」
对此,“中国版马斯克”还在其微博上进行了回应称:“我就在里,我也很想见你,我爱你。你是我的英雄。”
骗过马斯克本尊的“中国马斯克”被扒真容!暴露了AI换脸的“阴暗面”
然而就广大吃瓜群众期待着这一真一假马斯克见面时,一则消息的爆料似乎间接实锤了“中国版马斯克”为AI换脸。有网友发现,这名名为@马一龙0的网红,因违反社区公约被微博禁言,并且其微博内容也被清空,只留下两条微博。
骗过马斯克本尊的“中国马斯克”被扒真容!暴露了AI换脸的“阴暗面”
而后网友更是在他此前的微博历史头像里找到了应该是他本人的照片,但从曝光照片来看,虽然脸型与目前与公布出来的类似,但明显可以从五官看出与马斯克是两个人。而且,目前@马一龙0微博历史头像中也已经将曝光照片删除,只保留了一张与马斯克神似的照片。

想借AI换脸走红线思量思量代价

@马一龙0的逃避和不回应似乎已经从侧面印证其借AI换脸技术蹭流量的行为,不过值得一提的是,AI换脸一时爽,但一旦被追究责任,则可能会面临较重惩罚。
2019年全国人大常委会审议的《民法典人格权编(草案)》里,正式加入一条:任何组织和个人不得以利用信息技术手段伪造的方式侵害他人的肖像权;《草案》的第八百零三条也被修改为:其他人格权的许可使用和自然人声音的保护,参照适用本章的有关规定。
可见,不仅是图像视频,声音也被列入保护范围之内。换言之,如若这名网红视频真是借助换脸技术,那么他将很有可能涉嫌侵害他人的肖像权。其他相关规定还可以参考《网络音视频信息服务管理规定》。
而说起AI换脸,@马一龙0虽然算是热度相对较高的一位网红,但他绝对不是第一个吃螃蟹的人。随着AI换脸技术门槛逐渐变低,其已经在电影、文娱活跃已久,不仅在各大视频门户网站能看到很多处理过的视频,甚至还在文娱领域逐渐形成完整的产业链。
骗过马斯克本尊的“中国马斯克”被扒真容!暴露了AI换脸的“阴暗面”
比如此前在B站上很有名的“换脸哥”,将《射雕英雄传》中朱茵饰演的黄蓉换成了杨幂的脸,发在了B站上。因为制作几乎没有任何瑕疵,并且看起来毫无违和感而迅速在网络上爆火。除了杨幂之外,徐锦江换脸的海王、赵丽颖换脸的冯提莫、唐嫣换脸的主播阿冷等等,也相继大火过。
骗过马斯克本尊的“中国马斯克”被扒真容!暴露了AI换脸的“阴暗面”
除此之外,在正儿八经的电视剧和电影当中也有很多AI换脸技术的应用。最著名的例如电影《速度与激情7》中,由于演员保罗·沃克在一场车祸中意外去世,团队为了尽可能忠于电影并尊重演员,聘请了最好的数字效果工作室之一,收集了保罗·沃克的350个CGI镜头并和他的亲兄弟进行镜头配对,以AI换脸的形式,最后终于让“保罗”再一次出现在了电影当中,并且最后那一个镜头也成为整部电影中的精华。
AI换脸技术的日益逼真,技术门槛的逐步放低,带给了影视内容应用更高的效率和更低的制作成本,让整个影视行业有了新的创作动力。但与此同时,随之而来的造假、造谣、诈骗等问题,也让AI换脸技术的阴暗面被放到了台前。
骗过马斯克本尊的“中国马斯克”被扒真容!暴露了AI换脸的“阴暗面”
比如此前美国大选期间,AI换脸技术就成了政客之间相互攻击的工具。像特朗普就曾在推特上转发过一个伪造的拜登吐舌头的视频,当时视频播放量一晚便超过了1000万。随后特朗普还转发了自己脸替换科幻电影《独立日》中总统托马斯·怀特莫尔发布“我们要为我们的生存而战”演说的视频。
骗过马斯克本尊的“中国马斯克”被扒真容!暴露了AI换脸的“阴暗面”
更有甚者,围绕AI换脸技术还形成了一套非常成熟的黑色产业链,此前有媒体爆料,通过AI换脸技术形成的色情产业链已经相当成熟和完整,从下游成品情色视频、中游定制视频到上游软件及教程,整个完整的商业模式都有人提供。
另外,通过AI换脸收集用户隐私数据的也有案例。2019年8月一款名为“ZAO”的AI换脸软件突然火爆全网,用户只需要在APP中上传一张照片,就能将自己的脸替换成任何想要替换的人,并且人脸融合效果非常好,达到了以假乱真的程度。不过该软件尽管很有趣,并且直接将AI换脸技术的门槛降到最低,但很快也遭到了用户的抵制,因为该软件获取的个人信息并无法保障其安全性,这很有可能让不法分子钻了空子。
骗过马斯克本尊的“中国马斯克”被扒真容!暴露了AI换脸的“阴暗面”
许多法律专业人士表示,ZAO存在很多法律隐患,包括过度收集用户个人信息、转嫁侵权责任等。比如利用AI换脸技术进行诈骗,骗子通过盗取相关的个人信息和QQ或微信的社交账号,通过AI换脸技术与好友进行视频聊天,之后再以各种理由借钱,而受害者看到视频聊天界面中的“好友”,当然也会信以为真并转账,并且这些用户也很难维权。
骗过马斯克本尊的“中国马斯克”被扒真容!暴露了AI换脸的“阴暗面”
总而言之,随着AI换脸技术门槛的不断降低和技术上的不断完善,其已经逐渐深入大众的生活当中,丰富和娱乐着我们的生活。但是,由于现实的条件和环境,AI换脸技术也是具有两面性的,当然不能武断的“一刀切”,对于好的一面应该加以利用,但对于不好的一面,也需要我们加强认识,避免在其中受到伤害。
参考资料:

1.《中国版马斯克被禁言引热议 网友扒出疑似AI换脸前真容》,快科技

2.《中国网红撞脸马斯克,马斯克回应:我可能是半个中国人》,锌财经

3.《AI换脸一时爽,侵权违法太酸爽:民法典新草案有规定,小心赔到家底空》,量子位

4.《演员换脸、AI找对象、去马赛克…2020年AI圈十大热议焦点回放》,智东西

本文来自微信公众号“物联网智库 ”(ID:iot101),36氪经授权发布。

0
消息通知
咨询入驻
商务合作