人类想要变得更强，要与人工智能“混血”共生

编者按：关于人与机器（工具），过去其实有着两条故事线索，一条是AI（人工智能）的故事，这是一个英雄（或者恶棍）崛起的故事；一条是IA（智能增强）的故事，这是思想之轮高开低走的故事。AI的崛起让我们提出了如何与我们的创造物共处的问题，而智能增强（IA）让我们有了全新的思考、生活及存在方式。那个问题的答案就在AI与IA身上。人类与AI的共处之道在于优势互补：人类最擅长提问，AI最擅长解答；在于要共赢而不是零和：共生才是大自然之道。MIT的这篇文章值得好好读一读。

卡斯帕罗夫畏缩了，那表情就好像有人朝他的早餐吐了一口口水一样。兵进F5。深蓝仍旧沉默，就好像它刚刚朝某人的早餐吐了一口口水一样。车进E7：吃掉了卡斯帕罗夫的后。这是第六局，但在第二局结束被深蓝击败的时候卡斯帕罗夫就已经失去了勇气，此后双方就一直打成平局。卡斯帕罗夫走出的这一步将是他的最后一步。象至E7吃掉刚吃了他的后的车。深蓝做出反应。兵进C4。卡斯帕罗夫迅速意识到深蓝这是准备用它的后来进攻了——他知道大势已去。

才走了不到20步，加里·卡斯帕罗夫就投子认负。1997年5月11日，IBM的深蓝成为击败人类国际象棋世界冠军的第一个AI。

现在你可以把比深蓝还要厉害的AI下载到笔记本。

来自ESPN纪录片：人与机器：卡斯帕罗夫耸耸肩离开座位的那一刻。

AI的故事

这就是几十年来我们一直在讲给自己听的故事：这是人与机器之战，是造物主与创造物之战，会随岁月老去的血肉之躯与光滑如初的硅模块之战。不管我们对AI的担心是近忧还是远虑，都源自同一种恐惧：害怕AI不会具备跟人类一样的目标和价值观。更糟糕的是，我们告诉自己，人与人以及人与AI的关系就像一场国际象棋游戏：

零和——有一个玩家获胜另一个玩家就得输掉。

卡斯帕罗夫要求重赛。他指责IBM有人暗中在帮助深蓝，此外，他在1997年输掉的那场比赛也是他在1996年干净利落地击败了深蓝之后的重赛。再重赛一次再公平不过。

IBM拒绝了。他们干掉了深蓝，然后打包回家。（安息吧深蓝，1989—1997。）

但是卡斯帕罗夫止不住在想：如果一个人类跟一个AI一起合作会怎样？次年，也就是1998年，卡斯帕罗夫举办了全球第一次“半人马国际象棋赛”。类似于半人马这种神话形象，这些半人马也是一半是人类一半是AI组成的团队。

但是如果人类下国际象棋比不上AI的话，人+AI的组合岂不是要比单个的AI更弱？难道计算机不会被人类拖慢吗？就像博尔特跟一只胖嘟嘟的大熊猫绑在一起跑二人三腿赛一样？2005年，在卡斯帕罗夫的半人马赛的启发下，一项网上的国际象棋锦标赛试图回答这个问题。他们邀请了各种各样的参赛选手，比如超级计算机、人类大师、人机组合等来角逐一项大奖。

不出意料，人机组合的半人马击败了纯粹的人类。不过令人吃惊的是——人机组合的半人马也击败了纯粹的计算机。

这是因为，智商这东西跟网上那些不科学的、骗点击的IQ测试不一样，它不是一维的。（在不同的认知任务中，“g 要素”，也就是所谓的“一般智力”仅占个人表现的30到50%。所以尽管这是个很重要的维度，但并不是唯一的）比方说，人类大师擅长着眼长期的下棋策略，但不擅长看清楚眼前的几百万种下法应该下哪一步更好——而下国际象棋的AI正好相反。因为人类与AI在不同的维度上面正好优势互补，所以这两个组合出来的半人马就能够击败纯粹的人或者计算机之流。

但是在我们擅长的维度AI难道最终不会变得更好吗？也许。但是，需要考虑一下“没有免费的午餐”，这条定理恰恰出自机器学习领域本身。该定理指出，在不考虑具体问题的情况下，没有任何一种算法会比另一种算法更优，甚至随机胡猜的效果反而更好：也就是说，智能必须有专长。松鼠这种智能体的专长在于成为一只松鼠。人类这种智能体的特长是做人类。如果你经历过设法阻止松鼠接近你的喂鸟器的不愉快的话，你就会知道在某些智能维度上甚至松鼠也比人聪明。这也许是我们的一线曙光：在某些维度上人类比计算机聪明的局面甚至还会继续下去。

现在，人机的结合不仅解决了一个技术问题——如何用AI/人类的优势克服人类/AI的劣势，而且还解决了那个道德问题：如何确保AI跟我们人类拥有一样的目标和价值观？

解决的办法很简单：如果你不能打败他们，那就加入他们！

本文剩下的内容要谈的就是AI那个被遗忘的表亲：IA：智能增强（Intelligence Augmentation）。AI的老故事讲的是人脑如何对抗硅脑。IA的新故事将会是人脑如何与硅脑合作。事实证明，这个世界大部分都是国际象棋游戏的反面：

非零和——玩家双方可以共赢。

在接下来的几个章节里，我会谈谈IA的过去现在以及将来——我们人类如何开发工具来扩大自身的智力优势，同时克服我们的智力劣势。我还会展示在艺术、工程等领域人类已经在如何跟AI进行合作。最后，我还会就如何设计好跟AI的合作关系——如何成为半人马给出一些粗略的想法。

人和AI一起将从“将军（checkmate）”走向“队友（teammate）”。

IA的故事

Doug Engelbart把一块砖头绑住了一支铅笔，然后试着用它来写字。他当然知道怎么去花他的冷战军事研究资金。

Doug Engelbart Institute的历史照片

1962年——卡斯帕罗夫跟半人马下国际象棋的几十年前，早期互联网被发明出来的几年前——Doug Engelbart在琢磨着工具如何塑造我们的思想这件事情。那时候，Doug的大部分同行只是把计算机看成是更快地处理数据的一种手段。然而，他却看到了更加深刻的东西：他看到了一种增强人类思维的手段。

人类增强自身能力没什么新鲜的。我们没有尖牙利爪，于是我们的祖先就制造出长矛和弓箭增强自身的身体能力。我们的工作记忆不大，于是我们的祖先就用算盘和书写来增强他们的认知能力。工具不仅让人类生活变得更加容易——它还彻底改变了人类的生活方式。尤其是写字：这不“仅仅”是记录的一种手段，它还导致了数学、科学、历史、文学艺术等现代文明支柱的诞生。

这就是Doug为什么要试着将砖头绑上铅笔的原因——他要证明一个观点。在我们创造出来的所有用来增强自身智能的工具当中，书写也许是最重要的。但当他绑上砖头，对铅笔进行“去增强”之后，甚至连写个字都变得困难了许多许多。一旦你让书写的低级部分变得困难，要想进行书写的更高级部分：组织你的思路、探索新的想法及表达、一直精简到必不可少的部分，这些东西就会变得困难多了。Doug想要表达的正是这个：工具不“仅仅”让某件事情变得更容易——它还解锁了新的、之前不可能的思考、生活及存在方式。

Doug Engelbart好几年都在追逐这个梦想，1968年12月9日，他向全世界展示了一种新的计算机系统，终于将智能增强的这个想法变成了现实。现在我们都把那个叫做“展示之母（The Mother of All Demos）”，这个叫法非常贴切。全世界有史以来第一次目睹了：计算机鼠标、超文本、视频会议、实时协作等等东西，提醒你一下，那是在1968年。那是在苹果Macintosh诞生的16年前，Skype诞生的35年前，Google Docs诞生的44年前。

还是来自1968年在旧金山进行的展示之母，右边是Doug Engelbart。

随后的几十年时间里，大众开始慢慢接触到展示之母里面的那些奇迹。个人计算机让普通人也有了计算的力量，这一度是政府和大企业才负担得起的东西。瑞士的一家粒子物理实验室推出了一个叫做“World Wide Web”的小东西，让大家可以利用叫做“网页”的东西来分享知识，大家甚至还可以利用叫做“超链接”的东西建立知识之间的关联。

乔布斯曾经把计算机叫做思想的自行车。注意自行车这个比喻，自行车不像汽车，它可以让人类移动得更快，但跟汽车不一样的是，自行车是人力驱动的（而且自行车对你的健康也更有利）。金属的力量，再加上人类的心智。这是天作之合：一个半人马。

大家曾经对增强智能运动的进展情况感到非常乐观。

曾经。

现在，甚至连听说过IA的人都没几个了，尤其是跟它的表亲AI相比。但这不仅仅只是绕口令。Doug Engelbart设想计算机将成为智力与艺术创造的工具；现在，我们的设备更多是围绕着消费而不是创造而设计的。且不说AI跟我们共享价值观了——甚至非AI技术都不再支撑我们的价值观了，在某些情况下，还在积极地搞破坏。

我们想要一辆思想的自行车；得到的却是Lazy Boy牌思想躺椅。

不过谢天谢地，IA的故事没有就这么结束了。近年来，对IA的兴趣开始复苏。讽刺的是，这部分是因为人类对“落后”于AI的恐惧——这正是马斯克（Elon Musk）成立Neuralink的原因，他想研究如何制造大脑植入物，将我们的思想直接跟计算机相连。但就像Doug Engelbart和卡斯帕罗夫所表明那样，其实你不需要直接的脑机接口才能增强我们的智能。进化所赋予我们的接口——眼睛、耳朵、手以及身体——这些东西已经相当好了。你可以骑上思想的自行车，又不用把金属塞进灵魂的躯壳里。

但就像IA表明未必需要人机对抗那样，我们也未必需要IA与AI的对抗。在上个世纪里，AI的故事和IA的故事各自走出了自己的轨迹——不过在接下来的10年里，这两个故事也许会走出一条碰撞出火花的轨迹。

如何成为半人马

还有一个震撼在等着卡斯帕罗夫。还记得2005年由超级计算机、人类大师以及人+AI半人马参赛的那场网上国际象棋锦标赛吗？我忘了提到是谁最后拿到大奖了。

一开始，当随身携带一台弱小的笔记本的人类大师击败一台世界级的超级计算机时，卡斯帕罗夫并不感到惊奇。但令卡斯帕罗夫感到震惊的是最后赢得锦标赛冠军的人——不是有一台强大计算机助阵的国际象棋大师，相反是由两位业余棋手加三台性能不高的计算机组成的团队！那三台计算机分别跑了三套不同的国际象棋AI程序，当它们对下一步怎么走的意见不统一时，人类就“教”这些计算机进一步探究那些走法。

就像卡斯帕罗夫总结那样：“弱的人类+机器+更好的处理比单独的强力计算机更出色，更引人瞩目的是，也要比强的人类+机器+糟糕的处理更出色。”

出自古希腊神话的半人马是高贵的女神的后代。Netflix的原创系列剧里面的马男波杰克则是一位颓废的酒鬼，把身边所有的人都伤害了个透。尽管这两个都是半人半马的生物，一个显然是比另一个更成功的组合。而这给我们带来了人机协作最重要的经验教训。

当你建立人+AI团队时，困难的部分不在“AI”。甚至也不在“人”。

难就难在“+”。

四轴飞行器机身，由人+AI团队设计。

那么怎么才能给人和AI找到最好的“+”呢？如何才能让人类和AI的优势互补，并且克服各自的劣势呢？好吧，要想做到这个，我们首先需要知道人类和AI各自的优劣势究竟是什么。

不管怎样，人性基本上是亘古不变的。如果你想看看哪些是人类普遍具备的独特优势，别看那些世界著名的大奖获得者——看看小孩。孩子，哪怕是年纪很小的孩子，都已经精通于：直觉、类推、创意、同理心、社交技能。有人可能会嘲笑这些属于“软技能”，但实际上我们可以做出一个会下国际象棋的AI，但它却hold不住一次5分钟左右的正常对话，这就是这些技能的“软”只是对我们自己而言的证明，因为进化已经用了35亿年的艰苦工作才塑造出我们。

而如果你想看看人类的弱点的话，那就去学校看看。那些就是对人类智能而言比较困难的东西，并且需要长年累月的训练才能获得基本的能力：算术、计算、记忆、逻辑、数学。注意，这些都是你的手机比最聪明的人做得更好更快的事情。（我们想也许这就是为什么孩子觉得学校毫无意义的原因……）

好了，这些就是人类的优势与劣势了——那AI的优势和劣势又是什么呢？说实话，傻子才会想要预测在遥远的未来AI能干哪些不能干哪些事情。既然我们没法预测任何具体的东西，那就泛泛思考一下目前为止哪种类型的任务AI具备相对优势或者劣势的吧。

计算机显然最擅长计算。它们很擅于处理数万亿的数字，扫描数十亿的数据点，考虑数百万种可能性。数字也许是AI最大的优势——但数字也是其最大的劣势。现在，你只有在具备“代价函数”，也就是存在在定量上更好或更坏的答案时才能训练AI。这就是AI下国际象棋或者围棋能够击败人类大师的原因——因为胜平负一目了然，但在对话、创造发明、艺术创作、商业谈判、阐述科学假设这些事情上的表现却令人尴尬——因为这些事情你没法简单地用一个维度来对答案进行高低排序。那些类型的任务你会希望找人来干，他们会从简单的回答后撤一步，询问“为什么？”或“如何？”或者“如果？”

换句话说，AI擅长选择答案。人类擅长选择问题。

而这就是2005年网上锦标赛获胜的人+AI团队选定的“+”。两位业余选手提出问题给三台能力不强的计算机，当计算机返回不同的答案时，人类再向它们提出更深入的问题。

棋盘不是人+AI这个半人马唯一取得成功的地方。从艺术到工程，过去几年我们已经在多个领域见证了半人马的崛起：

• 2002年，Sung-Bae Cho开发了一种工具让人和AI一起进行时装设计。这项工具模拟了进化的过程，只是用在了服装上面。AI提供“遗传变异”，随机生成一些衍变的服装样式，你则提供“自然选择”，利用自己的美感挑选出可以在下一代“繁殖”的样式。

• 2016年，Maurice Conti演示了进化AI与人合作的又一个例子，设计四轴飞行器机身。人类给AI设定目标和约束（“让机身尽可能轻便，同时保持牢固且有4个螺旋桨”），作为响应AI则“演进”出一个四轴飞行器机身。人类然后可以“答复”AI，设定进一步的目标或者约束。

• 2016年Zhu等人开发了一个绘图工具，你只需要画出大致轮廓，AI就会把剩下的补好，最后画出来的图就像照片一样逼真。人和AI通过图片进行了一场艺术“对话”。比方说，人可以在底部画一些绿线，AI就提供一些逼真的绿地图片供人挑选。然后，人再在它的上面画个黑色的三角形，AI就会用几张近景是绿地远处是高山的图画作为回应。在人与机器的这种反复来回之间，艺术就被创作出来了。

在所有这些半人马的例子当中，都是人类以设定目标和约束的方式选择问题——而AI则产生答案，通常会立即展示多种可能性，来实时回答人类的问题。不过这并不仅仅只是单向的对话：通过提出更深入的问题，选择和组合答案，并且引导AI利用人类直觉，人类然后也可以响应AI的答案。

所以，考虑利用AI增强人类智能时，融为伯格人（The Borg）的想法不妨少考虑一点，多考虑一下Kirk与Spock（注：星际迷航人物，前者是人类，后者是半人类半瓦肯人）之间的灵魂对话——超越了两个个体的直觉与逻辑的混合。

既然人+AI系统是如此崭新的领域（其实“领域”都是很大方的说法了，更像是一小块草地），肯定还有很多未决的问题：比如1）人类应该提出哪一类的问题？在所有上述例子中，问题通常是“符合这些目标&约束的可能解决方案是什么？”2）人类应该如何与AI沟通？你未必需要使用文字或者甚至代码；画画那个例子里面人和AI就是通过图画来交流的！3）可以有多少个人和多少个AI一起协作？上面所有的例子都是1个人跟一个AI合作，但是2005年半人马国际象棋锦标赛的赢家就有2个人和3个AI——怎么才能扩充到几十、几千甚至数百万个人及/或机器的规模？

AI选择答案。人类选择问题。鉴于所有这些可能性，考虑到未来几十年技术所带来的希望与陷阱，我们人类选择的下一个问题自然是：

接下来呢？

苹果海报，“思想之轮” ，1980年

我们的故事

过去几十年，AI的故事是英雄崛起的故事——还是说是恶棍的崛起？1997年，一个AI击败了卡斯帕罗夫，2011年和2016年，AI分别击败了Jeopardy!（智力竞赛）与围棋的人类顶级选手。现在，很多人害怕AI会取代我们的工作，或者甚至取代人类本身。

与此同时，IA的故事却高开低走，经历了不幸的跌落。IA的想法从Doug Engelbart的展示之母强势起步，却随着技术从创造的工具日益朝着消费工具转变而慢慢被人遗忘。有人偷走了我们的思想的自行车的轮子。

不过现在，这两条故事线索可能正开始纠缠到一起，形成了历史上的一条新的纽带：AIA——人工智能增强（Artificial Intelligence Augmentation）。IA可以赋予AI跟人必要的合作关系，同时依然与我们最深刻的目标和价值观保持一致。反过来，AI可以赋予IA一些思想自行车的新的、替代性的轮子。

我挺愿意告诉你未来会是什么样子的。不过如果你告诉某人美好的事情必定发生的话，会导致有违初衷的自满——而如果你告诉某人糟糕的事情不可避免的话，会带来自我实现的绝望。

此外，回答是AI该做的事。作为人，你应该得到的是问题。

举个例子，IA也许能够协调AI的目标与人类的目标保持一致，但我们又如何能够协调增强人类的目标与没有增强过的人类的目标保持一致？我们是不是只是用人类与人类2.0之别取代了人类与AI之别？且不说如何让人与AI和平共处的问题，人类之间的和平共处问题我们都还没有解决呢。我们知道如何制造工具来增强我们的智能，但我们能制造工具来增强我们的同理心吗？我们的社区呢？我们的意义感和目的感呢？

我不知道。我不知道答案是什么。

然而，人类有着悠久的向自然借智的历史。光是在机器学习这个领域，人工智能网络就受到了生物神经网络的启发、基因算法则受到了生物进化本身的启发。所以，如果从这整篇文章你只能概括出一点的话，那就是大自然最不受赏识的小手段：共生（symbiosis）。

共生源自古希腊语，意思是：“一起生活。”共生就是花朵为蜜蜂授蜜，反过来蜜蜂为花朵授粉。共生就是你吃健康食物养育肠道内数万亿的微生物，反过来，这些微生物替你分解食物。15亿年前，一个细胞吞下了一个细菌但没有消化它，然后这个细胞就喜欢上这里了，作为回报——这个细菌（我们现在称之为“线粒体”）开始为宿主产生能量。

共生向我们表明，大家可以进行富有成效的协作，哪怕各自有着不同的技能，或者不同的目标，或者甚至是不同的物种。共生向我们表明，这个世界往往不是零和的——未必需要是人 Vs AI，或者人 vs 半人马，或者人 vs 其他人。共生是两个个体因为差异性而一起成功而不是相互憎恨。共生就是那个“+”。

人类故事的新篇章正在开启，接下来会发生什么，要由一起生活的我们共同书写。

原文链接：https://jods.mitpress.mit.edu/pub/issue3-case

编译组出品。编辑：郝鹏程。