《纽约时报》揭露谷歌AI内幕：背后由人类操作的“半机器人”

编者按：Duplex，是谷歌大名鼎鼎的打电话AI。亮相于2018年I/O大会，一出场便引发了巨大的关注，打电话与真人多轮互动，惟妙惟肖，被图灵奖得主认为是通过了图灵测试。但尴尬的是，《纽约时报》的一篇报道指出，谷歌的这个AI背后，有不少人类的身影。

报道中指出，通过Duplex拨打的电话中，约有25%是由人类打出的，而在通过自动系统拨打的电话中，约有15%在某个时刻会受到人为干预。《纽约时报》的记者Brian X. Chen 和Cade Metz也对这一AI进行了测试发现，成功的4次呼叫中，有3次是人类完成的。到底是怎么一回事？文章原题为Google’s Duplex Uses A.I. to Mimic Humans (Sometimes)，由36氪神译局编译，希望能够为你带来启发。

不久前的一个下午，泰餐厅Lao Thai Kitchen餐厅的电话响了，来电显示是“谷歌助理”（Google Assistant）。服务员吉米·陈（Jimmy Tran）接了电话。

打电话的，是一个有爱尔兰口音的男人，他希望预订一个位置，周末两个人用晚餐。

这并不是一个普通的预订电话，而是通过谷歌的Duplex实现的。这是一项免费服务，利用人工智能给餐馆打电话，并模仿人类的声音，代表人们预订餐厅的作为。

一年前，这个功能还是限量发布的，现在已经可以在大量的Android设备和iPhone上使用了。

与其他人工智能助手的声音相比，那个爱尔兰人的声音，听起来很怪，像个人。当被问到他是否是一个机器人时，打电话的人立即回答：“不，我不是一个机器人，”然后笑了。

“听起来非常真实，”Tran在挂断与谷歌的电话后，接受采访时说。 “这跟人完全没有什么两样。”

令我们失望的是，谷歌后来证实了，打电话的人说的是实话：他是在呼叫中心上班的人。

谷歌表示，通过Duplex拨打的电话中，约有25%是由人类打出的，而在通过自动系统拨打的电话中，约有15%在某个时刻会受到人为干预。

然后，我们亲自上手，对Duplex进行了几天的测试，给十几家餐馆打了电话。我们的测试显示，它非常依赖人类。

我们一共使用Duplex完成了四次成功的预定，其中有三个是由人完成的。不过，当谷歌的人工智能助手真的打电话的时候，听起来非常像一个人类，还能回答微妙的问题。

这也就是说，去年谷歌首次亮相的AI奇迹Duplex，现在仍然主要由人类操作。

虽然像谷歌这样的人工智能服务，是为了帮助我们。但它们半机器半人的的工作方式，可能会导致一个日益严重的问题：从虚假评论、在线虚假信息到冒充人的机器人，让人真假难辨。

下面，是我们实验的结果。

谷歌的人工智能，在工作的时候就像一个怪异的人

为了测试谷歌的Duplex，我们使用了两部谷歌的Pixel智能手机，其中默认安装这家公司的虚拟助手。 (iPhone 用户可以通过下载免费的谷歌助手应用程序来使用Duplex。)

在屏幕的底部，我们按下一个按钮来召唤谷歌助理，然后说，“帮我预订一个吃晚餐的地方。”

谷歌的助手随后加载了附近餐馆的列表。 对于那些只能通过电话预订的餐厅，谷歌提出介入并通过Duplex打电话。

我们使用了Duplex 不下十几次。有几家餐厅，比如旧金山的 Henry's Hunan 餐厅和加利福尼亚州奥尔巴尼的China Village 餐厅，拒绝了我们订一张2到4人的餐桌的要求，因为他们只接受10人或10人以上餐桌的预订。

最终，我们在奥尔巴尼订到了四个位置：两个在Nomad Tibetan餐厅，一个在Lao Thai Kitchen，另一个在Bowl’d Korean Rice Bar。 我们目睹或者是复盘了每一个电话，餐馆在拿起电话之前，就知道我们正在测试Duplex。

这些预定成功的情况中，只有Bowl’d Korean Rice Bar的预定，是完全使用谷歌的人工智能服务完成的。这个机器人，自称是谷歌的自动预订服务，随后要求预订桌位。

这次通话，展示了谷歌人工智能系统在通话中插入停顿和“嗯”来模仿人类的能力，这使得这种互动更加栩栩如生，而不是照本宣科。

在整个通话过程中，餐厅经理金·帕克（Jin Park）被搞得很困惑。他要求打电话的人，说明用餐的人数和预订日期。机器人耐心地一遍又一遍地回答问题。 然后，他放了一个大招，问：“有孩子吗？”

谷歌的机器人立马随机应变，说：“我是代表一个客户预订的，所以我不太确定。”

“一切都很完美，”帕克在与谷歌机器人交谈后接受采访时说。“就像一个真实的人在说话。”

帕克补充说，他对机器人如何处理他提出的是否有孩子的问题，印象尤其深刻。

但是，其他的就没有这么令人印象深刻，因为这些预订都是由人来处理的。

谷歌表示，Duplex之所以有时依赖人力，部分原因在于，它采取了一种保守的方式来尊重企业。

谷歌在很多情况下都会安排人员参与通话，比如公司不确定是否接受预订，或者助理的用户可能是垃圾邮件发送者。

Duplex的产品经理瓦莱丽 · 奈加德(Valerie Nygaard)说，我们在Nomad Tibetan预订的时候，公司可能会派人打电话，因为没有信号显示，这家餐厅接受了预订。

然而，第二天，我们在同一家Nomad Tibetan测试了Duplex，它再次使用了一个人工呼叫，尽管我们之前预订成功了。 所以，Duplex似乎学得没那么快。

Duplex需要大量的数据来改进

近年来，由于所谓的神经网络，人工智能的发展速度加快了。神经网络是一种复杂的数学系统，可以通过分析大量数据来学习任务。例如，通过分析成千上万张狗的照片，神经网络可以学会识别狗。

这项技术极大地提高了机器识别口语单词，理解这些单词是如何使用的，甚至自己生成语音的能力。通过Duplex，谷歌将这些不同的任务整合到一个系统中。 之所以成功，是因为谷歌专注于一个小领域：餐厅预订。

但是，构建这种系统需要大量的数据，谷歌可能会利用人工呼叫产生的数据，来帮助“训练”系统的未来版本。

负责监督谷歌助理业务的谷歌高管尼克·福克斯(Nick Fox)表示，公司并没有积极地试图消除 Duplex中的人工参与，因为这可能会让企业主的体验变得更糟。

相反，他说，谷歌正试图随着时间的推移，改进自动化系统，并逐渐减少人工干预的需要。

毕竟没那么聪明

在一个高科技公司大肆宣传人工智能到来的时代，今天的技术并不像看起来那么智能。

马克·扎克伯格承诺，人工智能可以识别并清除Facebook上的有毒内容，但是他的公司仍然雇佣了成千上万的人来做这项工作。

 当亚马逊吹嘘其配送中心的机器人时，大量的蓝领工人正在整理巨大仓库中的物品。

Duplex非常擅长通过电话预订餐厅，但就像 Facebook一样，谷歌虽然依赖于人工智能，在任何时刻，它都是栩栩如生的，但它很难应对意外情况。

《人类不需要应用: 人工智能时代的财富和工作指南》(Humans Need Not Apply: a Guide to Wealth and Work in the Age of Artificial Intelligence)的作者、斯坦福大学人工智能讲师杰里·卡普兰(Jerry Kaplan)说，“在人工智能与人类的互动中，有三件事很重要：背景、背景、背景。 他表示：“机器非常擅长处理细节问题，但处理上下文时却很糟糕。”

普通公众并不总是能看到更大的技术图景，部分原因在于公司推销技术的方式。 当谷歌去年首次推出 Duplex 时，它展示了给一家理发店和一家餐厅打电话的过程——由人工智能处理，没有提及人为干预。 这些信息都是关于科技的力量。

“这就像电视（泡面）广告中下方写的那行小字（效果仅供参考），”卡普兰先生说。 “这些信息与营销信息是相互矛盾的。”

与此同时，支撑谷歌Duplex等服务的技术正在以惊人的速度改进。 随着时间的推移，我们会越来越难以理解什么是自动化的，什么是人类。

但是我们需要仔细思考，这项技术应该如何使用以及不应该如何使用。 把所有的问题分类已经够难的了。 如果我们不清楚这项技术能做什么，那就更难了。

原文链接：https://www.nytimes.com/2019/05/22/technology/personaltech/ai-google-duplex.html

译者：尺度。