AI造福人类的关键：打造机器的同理心

编者按：本文来自微信公众号“量子位”，作者“TomRen”。36氪经授权转载。原标题是“AI造福人类的关键：打造机器的同理心 | 冯雁教授讲座笔记”。

AI会把人类带向何方？人类又如何持续让AI造福于己。

话题很热，讨论很多。

但知名AI学者冯雁有自己的思考。她既有科技的一面，也站在人文的立场，不止于思，也用实际研究成果不断探索。

在最近一场复旦大学新闻学院的讲座上，冯雁教授围绕“AI如何造福人类”话题进行了分享，她给出的方向是“机器的同理心”。整个讲座有技术、有举例，也留下思考。

值得一提的还有Q&A环节，复旦新闻学院教授张力奋，还与冯雁教授围绕热点话题进行了探讨，问答都很精彩！

 冯雁教授

量子位将听课笔记分享给更多未在现场的同学。

Enjoy~

嘉宾介绍：冯雁（Pascale Fung），香港科技大学电子与计算机工程系教授，IEEE Fellow，ISCA Fellow，全球未来AI和机器人委员会成员，世界经济论坛智囊团成员。她是人机交互、口语理解系统、NLP、情绪和情感分析等领域的专家。

以下为量子位记述的听课笔记：（为方便阅读，改以第一人称叙述）

先给大家介绍一个可以与人对话并分析性格的Demo机器人：ZARA The Supergirl。

ZARA可以在几个诸如旅行、爱好方面的提问后，并通过摄像头和麦克风收集受试者的表情和声音信息，给出对话人的性格、情感分析结果。

原理上并不难理解。ZARA在语音识别的基础上添加了个性分析模块，来通过语音语调和表情的细微变化识别对象的情绪和性格特征。

可能有人会问，为什么要做这样的研究？

如果从根本上回答，那最终目的是要更好实现“以人为本”的AI发展，也就是说，让AI更好造福人类。

How？

目前利用AI解决问题已然司空见惯。比如将AI用于各种模式识别问题——比如图像识别、语音翻译，同时也包括对于结果的预测。更大的范畴还包括了智能机器人和广泛使用的自动化。

但AI不仅需要知道周围环境和人的信息，更需要感受到人的情感，这不仅是AI发展中将会面临的技术挑战，同时也会是AI发展中人与人、人与机器之间关系的伦理挑战。

对话机器人中的同理心模块，就是这样一种尝试和应用。

如何打造对话机器人的同理心模块？让我们从对话机器人说起。

打造AI的EQ

技术上来说，聊天机器人在和人类交流时一般遵循以下的语言链进行处理：

1）聊天对话（Chat dialogue）；

2）利用麦克风收集语音信息；

3）decoder解码器解码识别声音信息；

4）理解对话内容并分析语音语调；

5）分析对话中传递的感情；

6) 把4）和5）结合起来可以决定对话系统该如何回答人类

特别是最后三步，尤为关键。人类可以轻而易举听出相同内容不同语调背后的不同情感，但机器不能。

众所周知的案例是微软在Twitter上的聊天机器人Tay，上线不久，就被“教坏”了，拥有极强的偏见，发表了很多不良言论，最后引发轩然大波而不得不下架。

所以“EQ”这件事，对于机器来说并不简单，目前AI探索中，主要会利用多维信息的综合分析方法，除了语言本身，还会综合视觉和语音语调等分析方式。

但其中较为重要的课题是如何消除“偏见”。在机器学习过程中，训练数据加入越多，人类整体的“偏见”就会表现得越发明显。因为语言对话数据都来自人类标注，有意无意中就会引入很多固有的偏见，不管是种族、地域或文化等等方面的原因。

于是目前很多工作在围绕“偏见”的抵抗模型展开。

幽默感

另一重要的EQ体现是“幽默感”。在电影《星际穿越》中，就有相关机器人幽默感的例子。

△ 《星际穿越》中有幽默感的机器人

那在技术如何实现呢？目前有一些研究成果：

1）使用LSTM模型来进行幽默识别；

2）利用计量建模来评价幽默感；

3）使用CNN来进行情感分析；

4）利用Seq2Seq模型来生成幽默回答；

5）利用emoji来标记数据情感等研究。

（展开讲解了很多案例，可前往冯教授主页了解。）

对话环节

张力奋：机器最大的变化是什么？

冯雁：机器最大的变化是越来越具有人性化，但人却在某种程度上变得越来越像机器，人在思维方式、作息、实时在线、相互连接以及逻辑等方面变得与人性化机器越来越像。

张力奋：机器的同理心如何训练而成？

冯雁：同理心是情感识别加上对话系统一起，由神经网络训练而成。之前的ZARA机器人系统加入同理心模块可以用于预测人类的情感。

张力奋：您如何看待技术的目的？

冯雁：技术的目的在于帮助人、协助人，AI可以在某些方面比人更强更棒（比如计算），但绝不意味着和人一样。AI的优势在于可以拥有人类的优点但同时保持中立，不受人类情绪的影响准确迅速的执行分析。

张力奋：您经常和机器打交道吗？用不用扫地机器人？

冯雁：私人空间都不用机器人，保护自己的隐私。很多公司都在利用各种软硬件收集用户数据。目前对于用户数据隐私的监管还不完善，只有欧洲出台了相关法律。在行业对于隐私有很好的处理手段之前，私人空间数据要谨慎看待。

张力奋：AI对于就业有什么影响？

冯雁：AI对于就业会产生一定的冲击，很多国家已经着手开始处理这一问题，包括北欧制定全民基本收入（universal basic income），无论有没有工作，一律无条件支取固定金额的生活费。

张力奋：AI会不会毁灭世界，比如控制核武器？

冯雁：技术失控的确会令人担心，除了前面提到的虚假市场预测带来市场混乱、假新闻的社会影响，最担心的还是自动化武器带来的毁灭性，一定要控制。

互动Q&A

Q：AI与前几次技术浪潮相比，除了更快更深更广的变革，与历史上的技术变革有没有本质的区别？

冯雁：这主要是由于时代的特点，科技开始由幕后走向台前，成为了经济最主要的引擎，发展速度越来越快。AI由来已久，但随着互联网、移动设备和智能设备的发展再加上算力的发幅度提高在这时代演变迅速发展，所以带来了前所未有的发展速度。

同时还有两个因素需要注意，其一是媒体对于AI技术的炒作，和许多吸引眼球的报道造成了大众对于AI的迷惑并产生了不切实际的期待（再加上社交网络的广泛传播）。另一方面是一系列科幻作品给予无穷的想象让我们对于AI有了更多的期待。

Q：AI是否会割裂人与人之间的关系？

冯雁：希望不会，目前AI还在促进人与人之间的链接。比如现在每个人用手机最多的应用是微信，屏幕对面的对象是人类，微信拉近了人与人之间沟通的距离。AI对话机器人对于老年人来说是十分有效的情感陪护，对于缓解孤居老人的心境有十分积极的作用。

Q：请问到底什么是AI？

冯雁：AI是更聪明的，会自动学习的机器，可以进行自然语言处理、计算机视觉以及语音识别等方面的工作。，比如可以在室内建模学习的扫地机也具有一定程度的AI。

Q：我想建立一个心理方面的对话机器人，但是缺乏响应的数据该怎么做？

冯雁：首先做知识库和基于规则的对话数据库，随后利用内测用户反馈收集数据，如此迭代反馈，提高模型性能。

Q：区块链是否可以帮助识别假新闻？

冯雁：AI和区块链目前关系不大，但是未来可能有新应用出现。

Q：如何看待AI的创造力？

冯雁：AI创造的文学或艺术作品是基于大数据训练的，生成的作品都是新的但会有似曾相识的感觉，而人类的创作会有全新的概念和思想表达。

Q：如何看待AI的伦理问题？

冯雁：AI的伦理问题是一个巨大的挑战，从三个方面来阐述：第一，如何在AI中定义一个伦理道德的标准原则；第二，如何将这个标准原则应用到机器中去；第三，如何对AI伦理道德实现的目标进行量化和评估。

Q：新闻工作者是否会被替代？

冯雁：（新闻工作者被替代的概率会最小，因为目前的技术是无法传达现场感的，新闻需要对采访对象的分析、共情和揣摩。人们普遍的焦虑来自于技术的迅速发展。）——这一段并不是Pascale所讲，为张力奋所讲。

Q：技术发展与女性的地位问题？

冯雁：随着科学技术的发展更新，人类获取薪酬的方式逐渐从原始的体力劳动转换成脑力劳动，按照这个发展趋势，不擅长体力劳动的女性，刚好可以发挥优势，参与到需要大量脑力工作的计算机领域。然而事实并非如此，计算机领域的女性从业人数，从一开始的30%左右下降到现在的百分之十几，主要原因来自于文化上男性养家的传统，另一方面来自于计算机行业的高水平薪资，大量的男性参与到计算机行业的工作和创业中。女性的地位一定程度上是经济地位的反应，目前中国的女性劳动参与率是全球最高，但依旧有一些隐形的门槛需要克服，比如男女员工的同工同酬问题。

Q：如何看待机器人取得公民权？

冯雁：炒作。新闻炒作会在一定程度上扭曲大众对于AI的认识。