这一届AI越来越像人了：已经有心理问题了

编者按：本文来自微信公众号“果壳”（ID:Guokr42），作者：以殷，编辑：朱步冲，36氪经授权发布。

我们常说，人不是机器，需要吃喝拉撒睡，也有七情六欲。每次熬夜复习准备考试，脑子里就有一个声音：“如果我是机器人就好了，不用睡觉就能把知识点全部记住！” 然而可能出乎你意料的是，现在越来越先进的人工智能（AI），在朝着更像“人”的方向进化时，居然也学会了人类的一些毛病，开始溜号开小差了！

我没困！我只是站不稳！丨Giphy

这个有趣的现象，是美国洛斯阿拉莫斯国家实验室（ Los Alamos National Laboratory）的研究人员发现的。实验室正在开发一种神经网络，让它在没有参考资料的情况下，学着给东西分类。这种神经网络是模拟人类是如何学会分辨东西的，就好比把一叠孩子不认识的动物图片交给孩子分类，虽然他们不知道羚羊是什么，但可能会把羚羊和狮子、企鹅这些动物分开。

在这个过程中，研究人员发现AI学习了一段时间就会变得不稳定，自发产生类似于幻觉的图像。而当AI小憩一会儿后，这种不稳定性就消失了，又恢复了正常的工作效率。这种睡眠不同于平常电脑的“休眠状态”，电脑的休眠只是暂时“冻结”所有的活动。而让AI真正进入睡眠，是把它暴露在频率和振幅范围很广的噪声里。这种噪声模仿了人类深度睡眠时，大脑神经元所接受的输入信号。

人工神经网络模拟生物大脑，具备学习功能丨Pixabay

不过，研究人员指出，并不是所有的AI都需要打盹儿才能恢复稳定性，只有在训练生物现实（biologically realistic）处理器或者尝试理解生物本身时，才会出现这种情况。此次研究的神经网络就是在模拟人类等生物学习看东西并分类的过程。绝大多数的AI因为系统不同，有充足的运算能力，可以007式工作个不停。

无聊也是生产力？和AI一块儿摸鱼算了

人类无聊的时候可以干出什么事？估计比正事还多（大雾）。

无聊发明之美食窗帘，放肆大嚼也能保持优雅丨Matt Benedetto

无聊其实是一个警报状态，当我们感到无聊时，便是对现在状况的不满。它能推动着人们从这种状态中逃脱，去寻找有意义、新奇或刺激的事情做。这种推动力是中性的，有好有坏，坏的可能让人为了找乐子滑向违法犯罪的边缘，而好的一面，也可以刺激人的创新。

举个例子，在寒风凛冽的夜晚，一个露营者正坐在篝火前，突然听到了无法辨别来源的噪音。他有两个假设：一是微风吹动树叶，二是有灰熊想要接近营地。那是走还是留呢？就要预测可能的结果（树叶被风吹动？）和期望的结果（不要被熊吃掉），平衡之后决定。如果露营者猜测是前者，并且也没出什么事，但当经历了一段长时间的平淡无聊后，露营者反而想冒险进入森林探索周围的区域，因为预测的快乐已经被无聊的痛苦超越了。这就是无聊刺激了探索，提高了自主性。

无聊的痛苦vs预测的快乐，看谁胜过谁丨Giphy

对AI来说也一样，现在一些研究者已经发现了无聊对于AI的作用。科学家把“无聊”的算法编入AI，让AI能够自己找到符合它期望的活动，以此来提高AI的自主学习能力。

一篇发表在《生物系统》（Biosystems）上的论文，便提出了“无聊”的重要性，解释了无聊和预测快乐之间相互作用的机制。这个机制具体是怎么发挥作用的呢？在训练过程中，研究者提供的“世界”有复杂度的区分，机器如果能准确预测“世界”，会获得快乐，但如果它持续不断地成功，就会产生无聊和厌烦，进而倾向于探测新的领域。

关心AI的心理状态，吃饱了撑的？

人工智能是人造出来的机器所表现出来的智能，这种智能是通过程序编码来实现的。在AI朝人类方向前进时，就有可能出现人的特征。

美国路易斯维尔大学的哲学教授安德烈亚斯·埃尔皮多鲁（Andreas Elpidorou）在《科学美国人》上撰文指出，AI的心理问题应当被严肃对待。他相信，在未来，会有更多更智能的机器产生无聊等心理体验，尽管无聊可能激发创造力，但结果也可能朝着完全相反的方向去——缺乏自主学习的动力，一遍一遍学着自己已经学到的东西，却毫无更改目前状态的计划。这些问题将阻碍机器的学习成长并浪费宝贵的资源。

如果未来我们要创造有更强自主性的AI，势必要关注AI的心理状态对其行为的影响。埃尔皮多鲁甚至耸人听闻地提出，因为人类会因为无聊干出各种坏事，未来也需要对付机器做的坏事——自虐或者伤害他人。毕竟我们也不想看到智能冰箱因为无聊而自断电源让食物腐烂，智能汽车因为无聊想着跳下海游泳。

预测：未来人工智能冰箱的无聊发疯瞬间丨Giphy

看一看身边更多的“人工智障”，或许关注AI的心理状况显得特别遥远。不过想想看，艾萨克·阿西莫夫（Isaac Asimov）提出的著名的机器人三定律，目的就是防止机器人伤害人类。在面对一个必然的人机交互的世界，我们想得远一点也无妨。

参考文献

[1]https://www.scientificamerican.com/article/what-happens-if-an-ai-gets-bored/

[2]https://www.scientificamerican.com/article/lack-of-sleep-could-be-a-problem-for-ais/

[3]https://www.biorxiv.org/content/10.1101/104521v1.full.pdf

[4]https://www.theatlantic.com/magazine/archive/2019/04/robots-human-relationships/583204/

[5]http://ex.chinadaily.com.cn/exchange/partners/82/rss/channel/language/columns/v0m20b/stories/WS5ccf8667a3104842260b9ef5.html

[6]https://www.theatlantic.com/magazine/archive/2017/06/make-time-for-boredom/524514/