硅谷深处的忧虑(3)：谁唤醒了恶魔？

我想先从一个流传的故事来开始今天的探讨[1]：

“在山里，住着一个农夫，靠自耕自种为生，但有一群野猪，经常出来啃吃农夫的庄稼，农夫试图消灭这些野猪，便购买了猎枪，整夜地守在田地旁边，一俟发现野猪，便开枪射击。但这种方法起到的作用微乎其微，因为田地很大，野猪又非常狡猾，不会固定地出现在同一个地点。农夫偶尔能打死一只野猪，但依然无法避免农田被啃的悲剧。

后来，农夫想出了一个高明的办法。他把农田里最好最甜的玉米，摘下来，堆放在一个固定的地方，引诱野猪来“免费”吃。起初，野猪们很有戒心，但吃了几个月的甜玉米之后，发现非常安全省力，既不需要自己去“摘”玉米，又没有农夫来袭击，于是野猪们放心大胆地吃了起来。又过了几个月，农夫准备收网了。他开始在外围筑起高大厚实的木板，每天只筑一个木板，野猪们也没有意识到危机。直到某一天，农夫把最后一个木板钉在地上，形成了一个封闭的圆形猪圈。此时，野猪们知道中计，想从猪圈里逃出来，但为时已晚。更何况，经过几个月的饱食，野猪都变成了肥大笨拙的家猪，丧失了一切的战斗能力。剩下的事情，就是，农夫一天拖一只出来...”

这个故事试图说明一个道理：天下没有免费的午餐。如果一件事情，在表面上看起来是“免费”的，那么它一定隐藏了某种代价。

现在，我们来体会一下正在互联网行业里大行其道的“免费”模式。这种新型的商业模式，正被一些大佬赞许为颠覆性的“互联网思维”。然而，在我看来，这种商业模式是建立在一种“虚伪”之上。所谓“虚伪”，是指互联网企业把“追求商业利益”的本质多绕了几个圈圈，隐藏到消费者的视野之外。当然，这种“虚伪”并无任何贬义，只是一种客观的描述。

其实，这种免费模式也并不新鲜热辣，它在第一代互联网公司诞生的1994年（以Yahoo为代表），就存在了。当时，人们不需要付费购买报纸，就可以自由地从Yahoo网站上获取最及时的新闻。随着Google的出现，这种模式被发扬光大。人们不仅可以从Google那里看到免费的新闻，更能获得免费的邮箱、免费的云存储、免费的视频、免费的办公软件、免费的操作系统、免费的地图......Google几乎免费了一切。当然，这些“免费”是有代价的：人们需要把自己的“隐私”交给Google来管理，更准确地说，是交给Google那庞大的计算机系统来管理。

从模式识别的角度来看，一个人的某种“隐私”，相当于这个人的一种“特征”（feature）。一个真实世界里的人，在虚拟的计算机世界里，完全是由他的特征来表述。在理想情况下，如果获得了足够多的特征，那么计算机便可以完全洞悉一个人的内心世界。通俗地说，计算机具备了读心之术。顺其自然的下一步，就是计算机的“控制之术”了。

几天之前，Elon Musk（特斯拉汽车CEO）在麻省理工学院的一个讲座上，说出了他的担忧：人工智能技术有可能唤醒一个无法控制的恶魔[2]。（With artificial intelligence we’re summoning the demon. There’s the guy with the pentagram, and the holy water, and he’s like — Yeah, he’s sure he can control the demon? Doesn’t work out：我们正在用人工智能召唤起一个恶魔。就像有一些家伙，觉得自己能够通过圣器和圣水来控制住恶魔，但实际上，这不可能。）

在我看来，Elon Musk的话并不是危言耸听，而是一种真实存在的可能。

其实，我们现在的许多行为，都已经被计算机所掌控。我每天收看的新闻，是Google推荐的，我网购的商品是Google推荐的，我预订的旅馆是Google推荐的，我去的餐馆是Google推荐的，我开车的路线是Google推荐的，甚至连我旅游的日期也都是Google根据机票价格来优化安排的。我不费心，很省力，基本上快成为一头“家猪”了。假如，我是说假如，Google想谋杀我的话，它只需要把我导航到悬崖上就行了 :<

如果说，第一代的Yahoo还只是把“玉米”堆放起来的话，那么第二代的Google已经开始在玉米周围建筑“木栏”了。当然，现在离最后一块木板还有很长的时间，但这种趋势却是潜在的，甚至是无法扭转的。

我们不妨进一步思考。表面上看来，是人工智能技术唤醒了恶魔，但人工智能技术是要建立在我们隐私的大数据之上，而获取我们的隐私是要建立在所谓的“免费”模式（互联网思维）之上。但，为什么“免费”模式会兴起呢？这是因为我们人性深处的潜藏之恶吗？（比如，懒惰，逐利，虚伪）当我们体察到了人性深处的“邪恶”时，还会指责那个遥远的“恶魔”吗？

或许，是我们唤醒了恶魔；也或许，我们自己就是那个恶魔。

[1]. 该故事出自《洛克菲勒留给儿子的38封信》一书。这本书有可能是伪作，但本文只是想讲述一个故事，而并不去考证这本书的真伪，也无意以洛克菲勒来妆点门面。

[2]. http://techcrunch.com/2014/10/26/elon-musk-compares-building-artificial-intelligence-to-summoning-the-demon/

图1. http://www.bidnessetc.com/28029-artificial-intelligence-is-a-demon-that-will-kill-us-all-elon-musk/

图2. http://www.clickonf5.org/7023/google-empire-dont-be-evil/

作者注：该系列的第一卷探讨当代硅谷的人文，第二卷将深入探讨一些技术