什么是内容审核?
内容审核主要是对包含色情、涉政、涉政敏感人物、图文违规、暴恐、违禁、广告等垃圾信息的文本、图片、音频、视频进行检测和识别,通过系统化的方式提供审核、打标、自定义配置等能力来保障企业内容安全。一方面为了净化网络,让人们在享受网络便利的同时,也是安全的。另一方面客户降低业务违规风险。简单来说就是审查平台用户生成的全部内容,评论、图片、视频、私信等。
那么审核方式都有哪些呢?
机器审核
按照制定好的规则或机器学习算法对内容进行审核。通常,成熟的审核系统能将95%甚至99%以上的内容都自动审核并做出处理。确定有问题的会被自动删除,难以判断是否有问题的会被标注,进入人工审核程序。
人工审核
虽然用户投诉审核和结果复审大多时候也是人工审核,但这里所说的人工审核,特指审核机器无法判别的内容,通常占平台内容数量的比例不超过5%。但对于一些大型的内容平台,绝对数量已经很多了。在内容爆炸的时代,我们看到许多平台在全国都有多个审核中心,每个审核中心的员工数量都成千甚至上万。
用户投诉审核
是前两者的弥补,有很多违规内容以前没有出现过,所以不在规则可以过滤的范围内,或者非常隐蔽,规则难以严格过滤。用户的投诉是发现新问题的重要渠道。通过知乎的危机事件,我们更应该重视对投诉的审核,并及时据此对机器审核做出补充。
结果复审
通常采取抽查方式,比如通过复审机器删除的内容,看规则或算法是否过于严格;比如通过查看人工删除和通过的内容,看员工的工作是否按要求执行;比如通过内容的整体巡查,看是否存在新的问题未被注意到。
鸿联九五有着雄厚的人力资源、专业的审核标准和风控体系,为了更好地帮助短视频内容平台在合规运营的同时降低成本,鸿联九五为企业提供一站式的审核服务体系。有效过滤视频、图片与直播流中 99.5% 的敏感内容,在直播/短视频等场景中采用色情识别、暴恐识别、政治敏感识别技术,实现对图片、视频、直播等内容的实时审核,利用文本审核对弹幕内容审核,标准统一、简单快速;针对论坛/网站中的图片、文本信息进行多维度的审核,高效实时,有效规避违规风险。为企业节省成本,实现零风险运营、零门槛使用以及零负担管理。