人工智能换脸技术

      7月3日，在第十届世界和平论坛上，中国科学院院士、清华大学人工智能研究研究院名誉院长张钹就清华大学人工智能研究院名誉院长、“安全的人工智能”这个主题发表了演讲。张博院士说，由于算法不安全、不可靠等风险，即使人工智能只发展到初级阶段，仍存在不确定性和风险。下面就由小编为您介绍一下人工智能换脸技术。

讯飞iFLYIoT智能物联网平台

2.5

11条点评

咨询产品

免费试用

解决用户选型困难的好软件，有各维度的信息

客户案例

暂无

合作品牌

暂无

人工智能换脸技术

      张钹院士还表示，虽然现在不用担心有人用智能机器人制造杀人武器，但人工智能的误用和滥用也会导致“仿声”，“换脸”深度伪造的问题，这种技术往往是假的，很难区分。由于技术难度小，处罚力度小，也大大降低了欺诈成本。

       针对上述问题，张钹院士重申“第三代人工智能”人工智能的概念应以人为本，以人类安全为可信、可靠、可扩展的人工智能。他呼吁加强国际合作，使人工智能健康发展，造福全人类。

-01-现阶段人工智能是否威胁人类安全

       人工智能会失控吗？包括霍金在内的许多学者的基本观点是，一旦人类开发出具有自我意识的超级智能机器，人类就无法控制它，这可能会对人类造成灾难性的后果。但目前，人类能否制造超级智能机器在学术界仍存在争议，现阶段无法回答这个问题。因此，对于人工智能的安全问题，张博院士认为，我们不仅要考虑远见，还要考虑近见。

     现阶段人工智能不会对人类构成威胁吗？张博院士否认了这一点。他认为，虽然人工智能只发展到初级阶段，但实际上存在一些安全问题，因为现阶段人工智能算法仍存在不安全、不可信等风险。

      张钹院士说，现阶段人工智能的决策结果往往是经过精心挑选后的最佳结果。但事实上，在大多数情况下，一些人工智能很难给出令人满意的结果，他以此为例。“当我问人工智能有多少只眼睛时，它第一次回答了100只左眼和99只右眼；当我再次提问时，它给出了另一个答案，说人们有2.8万只眼睛；如果你再问同样的问题，它会说白天有4亿只眼睛，是晚上的20多倍。”

       想象一下，如果我用这个系统来帮助我做出决定，它可能会经常做出错误的决定。”张钹院士说。

      数据安全也是一个重大的安全问题。张博院士指出，目前的大数据对人工智能有很大的影响。首先，数据呈几何增长，现在倾向于收集所有数据而不是数据采样；第二，注意数量，而不是质量；第三，强调数据的相关性，而不是因果关系。

      张博院士认为，这三种变化给人工智能带来了更严重的安全问题。2016年，微软推出了一个聊天机器人，后来发表了一系列关于种族歧视和性别歧视的言论。此外，还有一种攻击人工智能系统的方法“数据下毒”，通过为人工智能提供错误的训练数据来影响人工智能。

-02-深度伪造成本低，真假难辨

      大多数人可能会长期思考，以防止人工智能被误用和滥用，比如使用智能机器人来创造杀人武器。但事实上，目前人工智能也可能被滥用；如果被滥用，后果常严重。

      张钹院士介绍了深度伪造的问题。他指出，在这个阶段，人工智能算法被用来伪造视频、照片和语音。为了更生动地澄清这一点，他在会议上播放了梁宏达的原声和合成声，发现这两个声音非常相似，几乎难以识别。

      张钹院士说，这两个演讲中有一个是假的，另一个是真的，很难区分。所以我们用机器来判断，但两台机器的测试结果都是错误的。第一个测试结果认为A是假的，B是真的，第二个测试结果是两者都是假的。但事实上，A是真的，B是假的。

      “想象一下，如果你将来没有说过，被谣言告诉你，以后的技术很难区分真假，那么这对社会是非常有害的，所以各方都应该注意这个问题。”张钹院士说。除声音外，“换脸”技术足以造假。张钹院士说，视频中的视频可以通过换脸技术进行。“脸”更换，而且这种技术很容易，但后期很难判断真假。“视频中的人不是你，把你的脸放在上面，你没做过的事也属于你。”张钹院士还表示，造假成本太低，很难找到始作俑者，惩罚力度也很低。

-03-如何防止人工智能失控？

      科幻作家阿西莫夫提出了机器人的三个原则。首先，机器人不能伤害人类，也不能袖手旁观。第二，机器人必须服从人类的命令，除非它违反了第一个原则。第三，机器人应该保护自己免受伤害，但不能违反前两条规则。

        张钹院士说，由于现阶段机器人行为不可预测，我们不知道这种行为是否会伤害人类，因此很难执行这一原则。他重申了这一点“发展第三代人工智能”。第三代人工智能的中心思想是以人类安全为出发点，为人工智能提供安全渗透、评价、加固、防火墙等方法，开发可信、可靠、可扩展的人工智能。

       “我们现在提到的计划很简单，就是增加人类的智慧。什么是人类的智慧？知识。现在数据驱动的方法只强调数据、算法和计算能力是不够的，必须添加知识。”张钹院士说。

      张钹院士呼吁，“如今，安全人工智能的发展是当务之急。作为人工智能的研究者，我们必须专注于发展以人类安全为核心的安全人工智能。我也希望世界能够团结起来，通过国际合作，让技术服务于人类的需求，让人工智能健康发展，造福全人类。”以上内容就是小编为您介绍的人工智能换脸技术。