人工智能革命揭秘下篇（上）

编者按：李世石与Alphago的人机大战掀起了一股AI的热潮，但是也引起了我们对未来的担忧。AI是不是智能已经超过了人类？AI会不会抢走我们的工作甚至对人类造成威胁？针对这些问题，滚石杂志最近推出了人工智能革命特别报告，报告分上下两篇。上篇总结人工智能取得的进展以及它对人类的意味；在下篇则重点探索AI对无人车以及未来战争的影响。我们编译出来供大家参考，由于篇幅较长，下篇会分上下两部分刊出。此为下篇的上半部分。

人工智能革命揭秘上篇（上）

人工智能革命揭秘上篇（下）

我们希望把多少自己生活的控制权交给机器以及制造和操纵机器的企业呢？

坐在无人驾驶的车里面在硅谷到处逛是一种奇怪的感觉。我正坐在Google无人车的后座，这款改良过的Lexus SUV在车顶和挡板配备了激光、雷达以及低分辨率的摄像头，现在它正在山景城Google总部附近的街头巷尾游弋。我就在离这儿5英里远的地方长大，至今还记得骑在Schwinn Sting-Ray自行车上在同一条街上到处逛的样子。只不过现在可以这么说我是骑在算法上面—一种写成计算机代码的数学方程式，由它来控制Lexus。这辆车坐起来并不觉得危险，但不像是人开车的感觉。遇到停车标志时它会完全停止下来（加州人从来没这么干过），遇到厢式送货车时会远远避开，在我们经过一排停泊的车辆时会莫名其妙地踩刹车。

我在想问题是不是出在我身上而不是车：是不是它对某种我看不到的东西做出的反应？这辆能检测到猫的走动，或者几百码以外从任意方向驶过街道的另一辆车—无论是白天还是晚上（下雪或者有浓雾是另一回事）。“它的眼力比人类要好得多，”Google无人车项目的首席软件工程师Dmitri Dolgov自豪地说。他坐在驾驶室，但手是放在膝盖上的。坐那儿只是为了预防万一。

我们在十字路口停下来等左转放行时，我瞄了一眼乘客座上的那台笔记本，上面显示有该车解析周边情况的实时数据。那是一个网格化的彩色对象世界—车、卡车、自行车、行人等都是用颜色标出轮廓的，这些对象就像游戏场景一样到处游荡。每一个传感器提供了不同的视图，激光提供的是3维深度，摄像头识别道路标志、转弯标志以及红绿灯。后端的计算机负责实时处理一切信息，测定来车速度，判断什么时候左转OK。等那辆车做出这个决定的这段时间有点令人毛骨悚然。我这是在用自己的生命打赌，赌写决定那车什么时候可以安全左转的算法的程序员当中并没有谁昨晚跟女朋友（或者男朋友）吵架然后把代码搞砸了。这辆Lexus有可能变成机器人杀手。只要算法有瑕疵我就完蛋了。

不过这并不是一部反映技术失去控制的坏电影。相反，那车一直等到交通出现了慷慨大度的间隙后才有点太过唐突地斜插出去进行左转。这是我对这辆车突然加速的评价。

“是的，它开车还有点像生手，” Dolgov说：“我们正在改进。”

无人车乘客座椅上的一台笔记本提供了该车如何将车、卡车、自行车以及行人解析为网格状世界彩色对象的实时视角。

没有任何技术能像无人车那样体现出智能机器取得的进展和存在的危险。是，机器人也许帮助把电话做成可装进口袋的东西，神经网络也许能帮你的度假照片起好标题，但无人车有望改变从你怎么从一个地方去到另一个地方到如何建设城市的一切。它们将拯救生命减少污染。它们会用在大小相当于一部大iPhone的地方里面骑车转悠的浪漫来替代公路的浪漫。

但即将到来的无人车也会带来我们与技术尚待确定的关系这个严重的问题。我们究竟要把多少对自己生活的控制交给机器以及生产和操纵它们的企业？这么做我们承担多大的风险呢？这种风险不仅仅包括比如无人车存在的身体风险，也包括在财务决策越来越多受到智能机器指导和控制所带来的经济风险。在无人车的推进下，从Facebook到机器人战争的一切背后，有一场看不见的革命正在入侵我们的日常生活，迫使我们要对这一技术精灵全新审视一番。

无人车不仅仅是一次研究实验。奔驰一些车型已经能自行停车入库并且调整刹车来避免冲撞。Tesla最近发布了Autopilot，这项新功能可以让旗下车型在高速公路行驶是保持在车道上，这几乎相当于不用手也可以开车了。同时它还可以在走走停停的交通状况下保持与其他车辆的安全距离。而做全自动汽车的，Google1也不是唯一的一家：几乎每一家主流车企都有研发计划，比如丰田最近宣布对硅谷一家聚焦无人车等技术的新AI实验室投资10亿美元。不过最富有闯劲的新进入者是Uber，这家公司洗劫了卡内基梅隆大学的机器人系，招走了40名研究人员和科学家。Uber联合创始人Travis Kalanick对通过推出无人车队来削减成本的目标直言不讳。我问Google无人车项目负责人Chris Urmson多久全自动汽车才能上路时，他回答说“我个人的目标是我12岁的儿子将不需要驾驶执照。”

无人车的出现是众多因素的汇集，包括机器学习的进展让车可以“看”，廉价传感器技术的渗透，地图技术的进展，以及Tesla之类电动车的成功。但最大的因素是，作为20世纪发明的，我们所熟知的汽车现在已经跟不上21世纪的变化了，在今天的世界里，从气候变化到中等收入人群财富的缩水，一切都在对是否还需要拥有8缸发动机的豪车提出质疑，而大企业擅长的是开发出性感设备来卖产品并且吸走我们的个人数据。正如一位苹果高管在调侃该公司考虑进入汽车业的传闻时所说那样，无人车是“终极的移动设备”。

坐在Google无人车里面逛了一下山景城之后，我又坐回了我的现代出租车里面，我注意到的第一件事是大多数人类司机有多讨厌—看都不看就倒车出库，随意的超车变道。有时候我会想：“Google汽车是不会这么干的。”据一份研究估算，到本世纪中叶，无人车将可减少90%的交通事故。“我们真的要时刻注意采用无人车究竟有多重要，”Urmson说：“我们讨论的是美国3万人以及全球120万人的生命。如果你考虑一下移动缓慢的机会成本，你会发现那是非常恐怖的。”

还有一些其他的潜在好处。无人车有可能是电动的，这会加速更好的电池的研发，减少污染并缓和气候变化。它们有可能变得更小、更轻、更简单—跟你老爸的卡迪拉克相比更像是奇特的有轮子的贡多拉吊舱。将来你更可能租一阵而不是买一辆—什么时候想要就通过你的iPhone召唤。

但从Jack Kerouac到Dennis Hopper都歌颂的公路却要关闭了（一位机器人专推测想科罗拉多这样的乡下可能会变成“驾驶公园”，想自己开车的人可以到这里再次过把瘾）。如果计算机出了问题，在雨夜撞到树的话人会死掉。通过掌控你的方向盘，黑客将拥有刺客的能力。缺乏合适的数据安全下，你的车就会变成间谍，告诉你的企业主有关你的一举一动。

这一切如何发展远未明朗。像Google和Uber这样的公司正在开发无方向盘的、全自动的汽车—只需把目的地在地图上标明，剩下的交给车子就行。其他的像Tesla和丰田采取的是渐进策略，他们把宝押在由汽车承担驾驶相对乏味的任务上，而把驾驶的乐趣（及危险）交给人来控制。MIT教授David Mindell是探讨智能机器革命的《Our Robots, Ourselves》一书的作者，他说：“目前明朗的是，无人车正在迅速走出实验室，走向现实世界。”

Google无人车项目负责人Chris Urmson与Google的无人车原型

Chris Urmson住的地方离他的Google办公室不到2英里，所以他经常骑自行车上班。39岁的他有点腼腆，不属于那种宇宙之王的类型。他身着一件过时的运动上衣，开的是马自达5。之所以要这种车，是因为他的两个孩子在空隙很紧凑的停车点可以很轻松的拉开滑动门下车。

跟整个Google无人车项目一样，Urmson的办公室也坐落在新的X（前Google X）大楼上，后者距离Google山景城总部大楼约2英里之遥。X是Google半机密额创新实验室，由科学创业者Astro Teller及Google联合创始人Sergey Brin掌管。按照Teller的说法，X的目标是为全球难题开发出“科幻小说式的解决方案”。在一个老的购买广场所在地兴起的这栋建筑散发出一股非常时尚的后工业气息，有着混凝土地面，玻璃墙会议室，以及提供当地有机食品的自助餐厅（我参观的那天Brin正穿着运动短裤和卡洛驰到处闲逛）。X曾经是Google Glass、Project Loon之类实验项目的所在地。

但无人车是X最大的明星，也是最接近商用化的项目。加州已注册的105辆无人车里面有73辆都是Google的。虽然Google并没有发明无人车，但通过购买初创企业、招聘专家，以及开发地图和导航技术，Google却可宣称自己创造了无人车这个行业。跟有小道消息称有意进军汽车设计制造的苹果不一样的是，Google明确表示自己无意进入汽车制造业。它希望控制软件端，成为机器人跑车的操作系统。

Urmson对无人车的兴趣是在2003年被点燃的，当时卡内基梅隆大学开始为来年举行的首届机器人挑战赛（DARPA Grand Challenge）开发一款无人车。DARPA（美国国防部高级研发项目署）是五角大楼的秘密研究机构，在从互联网到军用飞机的秘密技术等一切东西的研发当中都扮演了关键角色。DARPA希望（大赛）能刺激无人车技术取得突破，从而运用到军事上面。当时共有15辆车入围比赛，比赛场地设在了加州沙漠腹地150英里的道路上—不过他们的车在路上被陷进去并且着火了。第二年情况稍微没那么惨：有5辆车完成了132英里的行程，但是却花掉了7个小时。卡内基梅隆的车分别获得了第2和第3名。当时是无人车团队技术总监的Urmson说：“你会看到这项技术的进展有多迅速。”

Google是在2009年启动自己的无人车计划的，这部分是其地图与街景项目的副产物（一旦有了地图，做出引导无人车的精细版并非难事）。Urmson也是在这一年来到了Google，在Sebastian Thrun的手下工作（后者后来离开Google联合创办了在线教育初创企业Udacity）。一开始Google团队是通过改装丰田普锐斯来试验无人车的，他们给它配备了摄像头、传感器，并在车顶安上了旋转的激光雷达。不过改装的费用可不便宜—激光雷达据说就要7.5万美元，大概是一辆普锐斯价格的3倍。Urmson这帮人在随后几年试验了各种设计和技术。他们需要搞定的最大问题之一是：人类在车的操作当中应该扮演什么角色（如果有的话）？换句话说，是要开发全自动的无人车，还是只是开发一辆帮助人开好车的车？

华盛顿特区街头的一辆Google无人车

2012年秋项目走到了一个十字路口。据Dolgov说，测试人员进行了大量高速公路测试，在测试中间，他们对无人车进行了设定，让车子在遇到自己不确定的情况时把控制交回给人。但他们发现这种设定并不令人鼓舞：“人类的注意力并没有达到我们的期望，”Dolgov说。相反，他们有的在发短信、有的在聊天、有点做白日梦……“这些人可是Google员工，而且经过了我们的培训，我们还强调了让他们始终保持全神贯注的重要性，但还是避免不了，这是人性使然，”他说：“车让你接管方向盘因为遇到了危险状况但人却在睡觉时你该怎么办？”

于是Urmson和他的团队确定全自动无人车才是他们的方向。2013年，他们开始开发一款没有方向盘和刹车的原型车—这车基本上就是车舱加上4个轮子。这是一款很可爱的都市微型车，样子介乎大众甲壳虫与太空舱之间。它有一个软的前保险杠来减缓任何撞击（上帝禁止它撞上行人），其最高时速是25码。Dolgov：“某种程度来说，这让系统变简单了，因为完全由它来控制。”

Urmson指出开发全自动驾驶汽车还有别的好处。“它改变了它可以的帮扶对象。”比方说盲人，或者身体残疾者。“能够在城市中到处走对我们来说理所当然，但这样的机会对于他们来说却是一件大事，”他说：“同时因为这项技术具备成本效益，你可以用今天公交车的价格来提供个性化的公共交通。”

关于无人车Urmson没有提到的一件事是Google也会从中受益。Google是个人数据的帝国，拿到数据后它可以编译、利用然后出于各种疯狂的盈利目的进行销售，包括卖广告。成为你去任何想去的地方所依赖的公司，并在一路上告诉你一些东西，为什么不呢？

现在，Urmson的关注是要让Google汽车“足够偏执”，这样才能对现实世界发生在司机身上的数十亿种捉摸不定的驾驶情况做出反应（注：也许还是会遇到从没遇到过的情况，就像人机大战中3：0领先的Alphago在第4盘中被李世石的一步棋把它从天狗变成疯狗一样）。Google无人车每周大概要开1万英里，行走的地点包括山景城、奥斯丁、华盛顿州柯克兰（这是最近新推出的试点）等。Google无人车已经跑了100多万英里，那些路线无人车基本上已经开得驾轻就熟了，但这对Google等公司来说只是开始。“现在我们必须攻关困难的部分了，”丰田负责无人车计划的Gill Pratt说：“我们必须想出在没有地图的时候该怎么办，地图跟实际不一样的时候该怎么办，遇到意外情况的时候该怎么办—小孩在车子前面追着一个球跑的时候该怎么办，或者某人突然变道的时候该怎么办。这些情况都是非常棘手的问题。”

为了看看无人车会对变幻莫测的情况做出何种反应，Google在路上进行了各种测试：比如突然从路边冲进来，往保险杠扔个充气球过去等等。但是问题比仅仅扔个球过去要更复杂。在我们坐车逛了山景城不久后，我问了Dolgov一个设想的问题：“假如Google无人车正在一条双向公里上开着，然后有一个人在边上骑着自行车。你的车准备要超过自行车，这时候对向突然有一辆汽车拐入了你的车道的话会发生什么事情？如果Google无人车不得不在迎面撞过去和转弯碰上自行车手之间做出选择的话，无人车会怎么办？”（注：其实这就是著名思想实验电车难题的无人车版）

“无人车不会撞到骑自行车的，” Dolgov的回答非常干脆：“如果我们能给对向的车更多空间并且尽量不让它撞到我们，我们会这么做并且用例踩刹车把碰撞程度减到最少。”这种决定听起来似乎挺合理的，但是很容易就可以设想出难以做出正确选择的场景。如果无人车必须在要么剐蹭闯入自己车道的车，要么撞上路边的树之间做出选择的话—你真的想让无人车的算法来做出抉择吗？“这些选择部分属于有趣的哲学问题，”他说：“所以你要在更大的背景下审视这个问题，在今天，人类司机在全球杀死的人超过了100万。”

车载摄像头捕捉到的视频（左下）与无人车解析出来的可视化数据（大屏）

的确，大部分情况下无人车要安全得多。它们不会酒驾、不会路怒、不会边开车边发短信（注：实际上会，只是它可以一心二用，但人这么做会很危险）。但这项技术并非毫无瑕疵，而且永远也无法实现这一点。这几年Google无人车跟若干轻微交通事故都有牵连，但是都不是事故责任方。不过上个月一辆Google无人车首次导致了一次轻微事故，原因是变道闯入了一辆公交车所在车道（没人在事故中受伤）。“什么时候无人车要是撞死了人那会是一个大新闻，” Danny Shapiro这样评价道。Shapiro是Nvidia负责汽车方面的资深总监，许多无人车的视频处理芯片都是他们开发的。哪怕无人车更安全了，但是把自己的生命托付给机器这个问题，或者更准确地说，托付给Google（或者苹果、Tesla）写的计算机代码这个问题却要严重得多。谁来确定写进控制汽车的算法的风险有多少呢？在《我们的机器人，我们自己》中，Mindell设想有个渠道可以告诉机器提升或降低风险（开快点或者慢点）。但谁来保证这种风险是精确的呢？如果大众可以在排放问题上造假的话，谁能保证它在安全测试中就不会呢？

类似这样的问题正是机器人学先驱Rodney Brooks认为Google对无人车的信任过高的原因。这不仅是因为这项技术尚未就绪，也因为归根结底人喜欢有人在场来控制局面，尤其是在自己生命处于危急情况下。Brooks指出火车史上有过类似简单得多的控制问题：“尽管机场无人驾驶列车已有多年，但大家也只有对无人驾驶地铁感到OK。”他提到了发生在2009年的华盛顿地铁事故，一辆计算机控制的地铁撞上了另一列地铁，造成9人死亡，80多人受伤。这次碰撞发生后，乘客要求恢复由人来控制地铁。“人开地铁后地铁的运行表现开始下降，因为人类司机并不擅长把地铁停靠在标志线上，但大家的回应是‘不行，你们得有人来接管。’”Brooks指出。后来花了1800万美元进行调查并升级后第一代的计算机驱动列车才又重返轨道。

微软研究院AI实验室的负责人Eric Horvitz认为，现在给这一切会如何发展下结论还为时尚早，但他认为我们很快就将看到至少有一座大城市会被一批公共微型交通工具覆盖。“你可以想象城市颇为不同的样子，” Horvitz说：“你要去巴黎郊外，但是你不能开自己的车去那里，不过不用担心，那里已经被非常灵活的微型交通覆盖。什么时候想走你只需叫一辆就会有车过来接你去到那个地方。对我来说这听起来挺不错的。”

人工智能革命揭秘下篇（下）