社交媒体时代的底层物语：那些为机器打工的Facebook神秘审核员

编者按：本文来自微信公众号“全媒派”（ID：quanmeipai），作者 腾讯传媒，36氪经授权发布。

看完一个陌生人的死亡视频后，惊惧再次席卷了Chloe。

尽管她已经接受了三周半的训练，试图在那些日复一日出现的仇恨言论、恐怖袭击、色情图像相关的推文面前，为自己筑起足够坚固的防御体系。

没有人安慰她，因为这是她的工作日常，也是凤凰城站点为Facebook审核内容的1000名审核员的日常。对于世界各地的15000名内容审核员来说，这也只是工作中再平常不过的一天。

内容审核员们隐身于社交平台之后，把自己活成了抵挡违规信息、却同被负面信息所侵蚀的一道盾牌。多的是人诟病社交平台依然存在的负面言论给自己带来的伤害，却很少有人考虑这道在负面信息下首当其冲的盾牌的生存状态。

The Verge近期推出了有关Facebook内容审核员的专题报道，文章作者采访了代理Facebook内容审核服务的科技公司Cognizant的员工，揭露了他们的心理创伤、管理制度以及审核标准等问题。本期全媒派（ID：quanmeipai）将编译这篇文章，与读者一同了解这群为机器打工的“隐形人”的故事。

01.生存背景速写，隐形、压力与不确定性

文章所采访的Cognizant的前任或现任员工，其实都和公司签订了保密协议，承诺不去谈论他们负责的内容审核工作。这既是为了保护他们免受对内容审核不满的用户的人身侵害，也防止他们泄露Facebook用户的隐私。

但这同样意味着，他们的工作状况不能为人所知，哪怕是身边的亲人朋友，都无法分担他们在工作中所遭遇的孤独、焦虑等心理负担。

以及，公司Cognizant和Facebook也会免于为审核员提供的工作待遇是否合理等争议。因此，文章中所出现的相关员工皆为化名，除了Cognizant的副总裁Bob Duncan和Facebook全球合作伙伴运营总监Mark Davidson。

不平等的薪资待遇

相比Facebook正式员工平均24万美元的年薪，这里的内容审核员一年只能拿到28800美元的薪水。

2017年，扎克伯格宣布扩大Facebook的“社区运营”团队，新增4500名内容审核员，到2018年底，Facebook已有3万多名员工从事安全方面的工作，其中约一半是内容审核员。

审核员中包含全职员工，但Facebook更多依赖外包合同工来完成审核工作——他们遍及全球各个地域与各个时区，并且关键在于，用人成本极低。尽管扎克伯格曾经警告投资者，安全投资会降低Facebook的盈利能力，但最近一个季度其利润仍然同比增长61%.

微观管理压力

不平等的不仅是薪资，还有不为外界所知的工作环境与工作氛围。

这一天，内容审核员Miguel在早上7点来上班，他是即将填满这一工作地点的300名员工之一，部门占据了凤凰城办公园区的两层空间。Miguel首先经过了由安全人员严格把守的入口，这是为了警惕心怀不满的前任雇员和Facebook用户的报复性行为。

再接着，他朝储物柜走去。员工储物柜数量不够，所以开始有一些人把东西放在柜子里过夜，以确保第二天还能有储物柜可用。储物柜所在是一条狭窄的走廊，休息时间，走廊里会挤满员工。

储物柜

Miguel和其他人一样，把手机也放在了储物柜中，这是为了保护Facebook用户的隐私。如下图所示，除了手机，有记录用户信息风险的书写工具和纸张也被禁止携带，甚至包括口香糖包装纸。洗手液之类的小型物品，需要放在透明塑料袋里，以便管理者查验。

公司禁止携带的物品

为了适应每天4班的轮班制，以及内部较高的员工流动率，大多数人不会被安排在Cognizant所说的“生产区（the production floor）”的固定办公桌上。

Miguel找到了一个开放使用的工作站，登陆名为“单一评审工具（Single Review Tool，简称SRT)”的软件，点击“内容审阅”按钮，开始了他一天的工作。

随机性高但容错率低的审核标准

Miguel在审核内容时，需要恪守一套以“准确度（accuracy）”命名的衡量标准，这一标准由Facebook员工与外包人员审核结果的一致性所决定。

具体来说，Miguel需要对每条内容完成两个测试：是否违反社区规则，以及违反规则的原因，如果这条内容确实违反规则应当删除，但Miguel选择了错误的原因，这也会影响他的准确度评分。

在Miguel每周所做出的约1500条内容的审核决定中，Facebook会随机选择50~60条进行二次审核，首先交由被称为QA（质量保证）的内部员工审核，再由Facebook正式员工审核QA的决策所形成的数据集，生成准确度得分。

Miguel对这一标准十分不以为然，“准确度通过一致性来判断，如果我和二次审核人员都赞同贩卖毒品，那么‘这一内容不属于违规内容’的审核决定也会是正确的。准确度不过是一个谎言。”

不仅如此，审核员达到准确度指标的困难还在于，他们要综合考虑各种给定的衡量标准。内容审核标准由4个方面构成：

首先是Facebook的公共社区规则，这包括两部分，公开发布的规则与篇幅更长的内部指南；

其次是对这些文件中已知问题的额外评论和指导，长度为1.5万字；

第三是审核员之间互相讨论得到的共识，尤其是在枪击案等突发事件之中，但有时会出现错误共识，管理人员就需要四处来回解释正确的决定。

内容衡量标准的4个主要来源

第四个方面处理起来最复杂，来自Facebook的内部信息发布工具。虽然官方政策调整每两周的周三公布一次，但对于进展中突发事件的补充性规则却时刻接踵而至，这些标准汇总于Facebook企业版软件Workplace之中，和Facebook一样，会呈现出根据热度由算法进行排序的信息流。

管理人员发布的规定常常相互矛盾，且不按时序出现，而如果审核员看到了过时的信息，就会出现准确度失误。“有时候，感觉像是Facebook自己开发了产品跟他们作对”。

即便在这样复杂且随机的审核标准下，他们的审核误差也被限制在很小的范围之内，就像是玩一场高风险高难度的游戏，起始分数为100分，如果你失误到95分，就会面临离职的风险。不过，Miguel有权利向判定他为错误的QA提起投诉，让QA同意他的决定。

在这种情况下，QA也成了压力的承担者。一位叫Randy的QA就经常被审核员威胁，要他改变审核决定，Randy不得已开始带枪上班——他一直到辞职都没有扣动扳机，但他的焦虑却挥之不去。

夹缝中的休息与排遣

到了Miguel的休息时间，他点击浏览器插件打卡，以便公司记录自己准备离开办公桌。Facebook总监Davidson表示，这是行业惯例，公司需要追踪自己的员工在哪里。

Miguel一共有两个为时15分钟的短休息，和30分钟的午餐时间。在休息室，他常常发现洗手间排起长队，数百名员工共用一个小便池和两个男厕隔间，以及三个女厕隔间。

公司允许员工使用另一层的洗手间，但Miguel不愿意来回花费几分钟，当他上完厕所，随着人群挤到储物柜前时，还有五分钟的时间看一会儿手机，再回到办公桌前。

Miguel和其它员工一样，每天有9分钟的“健康时间”，管理层设置用意在于，当员工感到精神受到创伤时，可以利用这段时间离开办公桌休息。一些审核员会趁这段时间排队人少去洗手间——而管理层禁止了这一做法，认为这是对“健康时间”政策的误解。

“不要用‘健康时间’去厕所”

员工被提倡的做法是，有时间要通过拨打咨询师的电话来应对工作压力，或者选择瑜伽等其他放松活动。但对于审核员来说，这些资源并不足够，他们用工作期间的性行为、毒品和侮辱性质的笑话来缓解压力。

前审核员Sara说，他们不允许和亲友谈论自己的工作，这使同事之间更加亲近，但不是合作带来的正向情感，而是一同发泄的创伤性牵绊。

审核员Li说，“我甚至没办法告诉你，我和多少人一起抽过大麻（文章补充：医用大麻在当地合法），我想到这个，是真的觉得难过。我们嗑到嗨，然后回去工作。试想一下，全世界最大的社交平台，审核员上班时间一边做这些事情，一边还要接着审核内容……”

02.无处安放的心理创伤

于是，Randy在上班时随身佩枪，Li默默容忍同事为了发泄对他讲的种族歧视笑话，Chloe在观看完一段谋杀视频之后崩溃，哪怕离职之后都无法摆脱相似情境触发的创伤症状……凝视深渊太久，他们觉得自己也将被深渊吞噬。

“我们所做的事，让灵魂变得黑暗”

在上文提到的为了缓解创伤症状而出现的歧视性笑话、毒品滥用和创伤性情感联系之外，他们还开始渐渐接受一些极端观点，陷入阴谋论与怀疑主义之中，而这些观点恰恰是他们要审核的内容。

比如，一位QA经常和同事讨论他认为“地球是平的”，并且竭力说服其他人也相信这一观点。已经离职的Randy也认为，这份工作改变了他的世界观。

在看了那么多声称9/11并非恐怖袭击的视频之后，他开始相信了。去年的公园枪击案发生后，审核员最初对袭击非常震惊，但随着更多的阴谋论内容被发布到Facebook与Instagram上，一些同事的态度开始动摇。审核员们开始在上班时间疯狂搜索相关阴谋论内容，而完全忘记了自己的审核立场。

“做这份工作逃不过PTSD”

几位审核员说，他们经历了继发性创伤压力（secondarytraumatic stress）的症状，感到焦虑、失眠、孤独和分裂感，这是一种由观察他人的创伤经历而导致的心理障碍，症状与创伤后应激障碍（PTSD）相同，原本常见于医生、心理咨询师与社会工作者。

继发性创伤压力的症状：焦虑、失眠、孤独、精神分裂

Chloe在离职后的几个月出现了创伤症状。电影中的刺伤场景引发了她对于审核时期暴力视频的回忆；有一次她睡在沙发上，突然听到开枪的声音，原来是家人在观看暴力视频节目，她当即无法忍受，几近抓狂。

Randy在离职之后，对刀产生了一种天然的恐惧，他原本喜欢烹饪，但现在回到厨房看到刀，对他来说则难以忍受。他在接受采访时说，“从事这项工作后，不患上某种急性应激障碍或是PTSD是不可能的。”

03.“当你不再害怕时，你会做什么”

一些管理者让笔者看到了另外他们所采取的解决措施。报道前一周，总监Davidson提到，Facebook开始对一部分审核员进行测试，以衡量他们所需要的“弹性（resiliency）”指标，即从创伤内容中恢复过来继续工作的能力。他说，公司希望尽快将测试拓展到全球所有的审核员。

而在笔者被邀请实地访问的前一天，Cognizant的办公园区里贴上了新的激励海报。办公区域比记者的想象要丰富得多，墙上用彩灯装饰的图表描绘了月度活动，看起来有种夏令营和老人活动中心的混搭风：瑜伽、宠物疗法、冥想，还有“周三请穿粉红色”的活动。

记者去的当天是“随机善行周”的末尾，这一周，员工被鼓励在彩色卡片上写下鼓舞的话语，并用一块糖果把他们贴在墙上。

在和管理者坐在一起的群体采访中，一些现任员工们都承认这项工作的挑战性，但表示他们感觉到安全、被支持，并且认为这项工作能够带来更好的薪酬与机会——如果无法进入Facebook，在Cognizant内部也好。

政策经理Brad告诉笔者，他和同事们审查的大部分内容为良性，并提醒笔者不要夸大其所带来的心理健康风险。公司内部的心理咨询师则表示，他们每天都和每个员工联系，他们认为现场咨询、热线电话和员工援助计划的结合足以保障审核员的健康状态。

笔者参观结束，离开的时候发现公司内部审核员几乎都为20多岁或者30岁左右，当他经过，所有内容审核工作都要暂停，确保他不会看到任何Facebook用户的隐私信息，所以这时，审核员都在和同事亲切地聊天。

笔者看到墙上贴着那些激励的海报，其中有一个口号是“广泛的同理心”，还有一个则是Facebook首席运营官Sheryl Sandberg的名言，“当你不再害怕时，你会做什么？”

那么，考虑两方面的声音，Facebook这种模式是否合理？记者在参观时遇到的每一个人都对员工表示了深切的关心，在这个系统中，他们似乎已经尽己所能地为员工付出。

Facebook自豪的是，它给所有代理公司的薪酬，都超出了最低工资的20%，并且提供全面的医疗保障福利，还有明显优于呼叫中心行业（call center industry）的心理健康资源。

虽然这种外包审核模式也为Twitter、Google、YouTube等大型科技公司所应用，除了节省成本，还可以迅速扩展到不同语言环境的新市场。

但问题在于，这种模式将内容审核中较为特殊的言论和安全等关键问题，都交给了审核员个人来负担，好像他们仅仅是在商场处理顾客打来的服务电话一样。

并且，Facebook并不愿意让外界知道是“人”在负责这项工作，Facebook宁愿谈论它在人工智能方面的进展，也不愿意冒险承认其对人工审核员的依赖能够逐日减少。——考虑技术限制，和人类语言无限的复杂性，这一天也非常遥远。

与此同时，这些内容审核员是拥有数十亿用户的平台的第一反应者，他们承担的是现代社会中一项非常关键的职能，但薪酬却不到许多一线工作者的一半。审核员们尽可能长时间地从事这项工作，当他们离职时，保密协议会确保他们退回到阴影之下更加遥远的地方。

对于这些审核员来说，他们似乎从来没有在Facebook工作过——严格来说，也确实是这样的。