信息“擦洗工”、事实核查员，那些卡在人工与智能夹缝的新兴传媒人

编者按：本文来自“全媒派”（ID：quanmeipai），36氪经授权转载。

9月，加州女子Selena Scola一纸诉状把Facebook告上了法庭——因为看了过多暴力、血腥和色情图片，她患上了PTSD（创伤后应激障碍）。Selena是Facebook合作的第三方Pro Unlimited的内容审核员，负责删除Facebook上“剧毒、不安全、有害的内容”，包括色情、暴力、仇恨言论等。

对于PTSD，维基百科的解释是“指人在经历过性侵犯、战争、交通事故等创伤事件后产生的精神疾病”，常见于遭受重大打击后导致的精神创伤。然而，在互联网时代，没有性侵，也没有战争和交通事故，因视听感官长时间遭受刺激产生的伤害，不亚于物理刺激造成的精神损害。

新技术带来了繁荣的互联网产业，随之也诞生了新工种，内容审查员是其中的代表之一，除此外，还有事实核查员、论坛版主、合作伙伴经理等，他们的生存与困境成为了网络时代的缩影。

内容审查员与PTSD：隐匿的信息“擦洗工”，无处安放的焦躁

社交网络上，一头是梦想家用技术缔造的开放盛世——用网络建设一个连接世界的地球村，另一头的人躲在盛世的影子里，把好最后一道关卡——鉴定并删除变态的视频，这一点，人力比机器做得好多了，至少在当下是如此。

或者更早以前的论坛时代，版主们也担任着这个角色，但他们的规模和工作量远不如社交网络时代。据报道，仅Facebook一家，内容审查员的数量就达到了7500人。这些人甚至不是Facebook的员工，只是被第三方雇佣来的廉价劳动力。

2014年，《连线》杂志发表了一篇调查报道《社交网站上不为人知的隐匿职业：信息“擦洗工”》。担任“擦洗工”的廉价劳动力多分布在东南亚，他们可以拿着“美国水平”的工资，代价是“直面人性的恶”。

YouTube在美国本土雇佣的审查员要求更高，需要对东南亚员工审核过的视频进行二次过滤，公司许以YouTube的工作场所、办公福利等条件，甚至承诺转正机会，Facebook条件也是如此。

事实上，这些审查项目几乎是秘密进行，科技公司和外包员工、第三方签订保密协议，不允许他们向外透露任何审查细节，Facebook把这个秘密项目起名为honeybadger（蜜獾）。在此次起诉事件中，Selena暂时无法提供更多工作细节，她担心一旦违反保密协定，会遭到报复。

纪录片《信息擦洗工》海报（2018.5）

在Selena的起诉声明中，她提到Facebook和第三方公司都不曾提供心理干预以保证审查员的精神健康。但即便提供了心理医生，内容审查员也不知道如何开口讲述自己的经历。据《连线》杂志报道，YouTube审查员Rob说，YouTube给擦洗工们雇了心理咨询师，理论上谁都可以和他们谈心，但Rob不知道如何接近他们。据他所知，也没有谁去找过咨询师。所以他只能靠自我调节——喝酒喝得越来越多，身材也越来越胖。

而创伤之后，审查员们可能产生一辈子的心理阴影。Selena的起诉文件里写道：“她的PTSD症状可能会因为碰到鼠标发作，也可能是因为走进了一栋冷冰冰的大厦、在电视上看到一段暴力视频、听到吵闹的声音，又或者，是因为受到一点惊吓。”

如果要真正解决审查员们的心理问题，或许还是应该回归技术，比如提高人工智能的识别能力和审查效率。但目前看来，开放的网络世界背后，还有如此多阴暗和不堪，扎克伯格与科技巨头们在人工智能审查上所做的努力还远远不够。

Reddit版主：用爱发电，无薪且糟心的职位

Reddit，一家月活达到3亿的神奇网站。界面设计极其Old School，但因为许多细分、有趣的小组吸引了一个又一个小圈层爱好者。

相比于Facebook内容审查员的隐秘身份，Reddit版主似乎更为人熟知一些，他们有自己的账号，有删帖和禁言的权利，小组用户可以直接和版主沟通。不同的是，在Reddit上当版主没有薪水，全靠志愿者们用爱发电，他们也一样要遭受种族主义、性别歧视、水贴刷屏等垃圾内容的精神侵害，甚至是被用户直接攻击。

全媒派在《不抬杠是不可能的，有人用五年筛出了60万优质杠精》提到一个小组changemyview，该小组为了建立一个理性讨论的优质社区，启用了22个志愿者作为版主，24小时巡视新鲜发帖，如有不当，则会沟通或删除。

其它小组的版主工作模式也是如此，但生存条件可能更艰难一些，至少，版主人数达不到22个之多。而被审核的小组用户们可没有那么开心，极端的人，给版主们发去一条又一条的辱骂和威胁信息。

在Engaget和 Point发起的联合报道中，他们找到了10个Reddit版主。版主们管理着大大小小的小组，最大的达1600多万订阅者。但无论小组大小，他们的困境都是相似的，被辱骂、攻击、人肉、诅咒甚至死亡威胁，而Reddit官方，一次又一次忽略了版主们提交的被攻击报告。

版主Emily管理着“伦敦”小组和“新闻”小组，为了避免极端报复，她从来不暴露自己的性别，以免有人威胁“强奸她”。还有一些攻击和威胁，描述得具象又恐怖，让人光看文字就会起一身鸡皮疙瘩。

牛津大学实验心理学副教授Lucy Bowes认为，长时间的版主工作必然导致抑郁症、PTSD和焦虑症等精神疾病，工作时间越长，患病危险越高。

对于Reddit这样的社区来说，技术监管和人力监管不到位，内容过于野生是一大原因。但与此同时，注册机制过于松散，导致恶意账号删不尽，喷子们随便用一个邮箱又可以注册回归。即便是禁言72小时，用户被解禁后还是会继续攻击。

而Lucy认为，对于Reddit这样体量的公司而言，要解决版主们的问题，应该从公司自身入手，比如对新版主进行培训，加强汇报反应机制的建设，或是截屏留取证据，以确保未来起诉。另一方面，对于这些志愿者，Reddit也应该随时关注他们的心理健康，及时进行干预和治疗。

尽管体量大，提供咨询的话会增加不少成本，但对于一个依靠一个个小组支撑起来的庞大社区而言，这些愿意资源维持社区秩序的人才是Reddit的财富。

事实核查员：真相的代价

在巴西，一份299页的文件在WhatsApp的右翼群里疯转，里面有40名事实核查员的社交媒体详细资料。巴西网友视奸他们所有人的账号：看，这是他2011年发的贴，他就是一个左派分子。

这一切，只是源自于事实核查组织Agência Lupa和Aos Fatos在今年5月宣布的计划：与Facebook合作，做好今年10月的总统大选辟谣工作。事实核查员们将手动辨别信息流中的假新闻，并打上“Fake”标识，将假消息的影响力降低80%。

但打击也由此开始。

先是大V和右翼媒体发文指责，事实核查员的工作是做“信息审查”，后又有人画了幅漫画，把事实核查员画成了投资人乔治·索罗斯的宠物，在WhatsApp门口巡视。

接下来是死亡威胁。有人给Lupa的总监Tardáguila发信息“你看不到巴西的下一任总统”、“我们会挨个来收拾你”……

这并非孤例。事实上，同Facebook合作的34个事实核查组织都受到了网络谩骂、人肉等威胁，这对他们的工作造成了很大困难，尤其在媒体信任度本就不高的国家。

事实核查的进展并没有那么顺利，一是利益相关方和一些网民在疯狂打击，二是在Facebook方面，他们并没有对这34个事实核查项目投入足够的资源，甚至在态度上都不够强硬和坚定。

在巴西，Facebook从未就此次事实核查项目召开新闻发布会，反复要求的热线和邮件也迟迟没有开通，唯一有的，只是在今年5月发布了两条博文，一是承认网络暴力确有其事并谴责有关行为，二是宣布和巴西、墨西哥和哥伦比亚的事实核查项目的合作。

在Tardáguila看来，Facebook需要明白，这是他们的项目，公司必须要发声，“我们努力了三年，没有任何改变，这些改变必须由Facebook来承担”。为此，她也提出了一些切实可行的合作条例：

关于需要被核查的内容，平台需要更好地翻译相关通知。

Facebook方开通热线或邮件地址，用户和媒体可以询问事实核查项目的相关问题。

在每个国家建立和事实核查员的主要沟通渠道。

对Facebook的事实检查项目运作流程进行可视化，翻译至现有的合作国家。

定期与事实核查合作伙伴开会，了解项目进展情况。

合作伙伴经理：与170个编辑室共同产出

ProPublica在2016年推出了有史以来规模最大的新闻众包项目electionland 2016，和全国大小媒体合作，以任务分派的形式合作完成大选报道。报道覆盖范围广，参与媒体多，资源利用率高。随后，ProPublica试着开了新的项目，也由此诞生了一个新的职位。

新项目名为Documenting Hate，一个追踪和报道仇恨犯罪和偏见事件的调查项目。新的职业则是合作伙伴经理（partner manager），目前由记者Rachel Glickhouse担任。她像一个统筹者，同时担任记者、编辑、研究员、社交媒体制片人、招聘、培训和项目经理。

Documenting Hate官方网站

通过合作伙伴经理的努力，Documenting Hate项目和150家国家/本地媒体，以及20家高校媒体建立起合作关系。项目的关键在于资源共享和合作报道，ProPublica搜集到的仇恨事件案例和数据都被统一上传到官方数据库保管，并向加入的媒体开放使用，比如公众提供的线索和故事、警方的案卷信息，真正实现了资源上的共享和合作。

与此同时，合作伙伴经理也会担任起“空中管制调解员”的作用，确保不同记者不会在一个事件上耗费精力，或是针对不同当事人，指派合适的记者跟进。

虽然类似Documenting Hate这样的新闻众包项目有利于报道资源的合理分配，但合作伙伴经理也面临着不小的挑战。加入项目的记者可能无法彼此合作，也可能有等级倾轧，又或者，记者们对项目的热情有一定的周期性，有的可能无法长期为这个项目效力，而在一些特殊时期，参与者会少得可怜。

尽管如此，在Rachel看来，众包模式依然会是未来新闻的发展方向之一，在编辑室的时间和资金都非常稀缺的时代，有一个中心化的项目聚合资源并进行再分配，自然能极大程度上缓解编辑室所面临的尴尬。

互联网浪潮下诞生的新职位固然有其局限性和困境，但菲律宾事实核查项目Vera Files的联合创始人Chua认为，类似于事实核查员遭遇网络暴力的事件，Facebook固然有保护事实核查员的责任，但如果Facebook无法保护他们，那记者必须自我保护，“新闻业有风险，事实核查同样如此。”身为大时代下的小个体，我们能做的，不过是催促科技公司解决眼下的问题，让个人迅速跟上这滚滚向前的历史车轮。

【参考资料】

FB内容审查员患PTSD

https://www.businessinsider.com/content-moderator-sues-facebook-ptsd-2018-9

http://www.tmtpost.com/164968.html

https://www.theguardian.com/technology/2017/jan/11/microsoft-employees-child-abuse-lawsuit-ptsd

真相的代价：事实核查员遭到的威胁与攻击

https://www.poynter.org/news/these-fact-checkers-were-attacked-online-after-partnering-facebook

Reddit讨论区审核管理员遭仇恨言论攻击

https://www.engadget.com/2018/08/31/reddit-moderators-speak-out/

新闻业的最新职位 - 合作伙伴经理 -如何在ProPublica的新闻编辑室工作

http://www.niemanlab.org/2018/10/chasing-leads-and-herding-cats-how-journalisms-latest-job-title-partner-manager-works-in-propublicas-newsroom/