编者按:本文来自微信公众号“量子位”(ID:QbitAI),原标题为《对不起,抓错人了》,李杉、岳排槐编译整理。36 氪经授权转载。
过去十四年来,每当夏季结束,威尔士南部的波斯考尔(Porthcawl),都会一改往日的宁静,被狂欢者“入侵”。
3.5 万名猫王的粉丝,会一起涌入这个只有 1.6 万居民的小城。他们大都梳着大背头,戴着超大号太阳镜,穿着一身白衣。
但 2017 年的猫王音乐节,与往年有些不同。
警方首次在这一活动期间,利用自动的人脸识别技术追踪嫌犯。摄像头扫过打扮相似的汹涌人流后,发现了 17 位疑似通缉犯。最终,10 位抓捕准确,剩下 7 位属于误判。
10:7,这已经是个佳绩。
去年 6 月以来,南威尔士警方一直在测试自动人脸识别系统,然而在多数情况下,人脸识别系统识别嫌疑犯的错误率都高于正确率。
这不是信口胡说,警方把这套系统的工作成绩,也就是识别正确和错误的情况,通过互联网进行了公开披露。
英国警方的人脸识别车
例如,在去年 6 月的欧冠联赛最后一轮比赛中,当人脸识别相机首次应用时,系统发出了 2470 次警报。其中有 2297 次错误,173 次正确——错误率高达 92%。
警方发言人认为问题出在数据库中的图片品质太低,而且这也是该系统首次正式使用。
在 Anthony Joshua 和 Kubrat Pulev 于 2017 年 10 月进行的拳击比赛中(威尔士警方在那个月改进了系统算法),正确识别 5 人,错误识别 46 人,错误率高达 90%。
在威尔士与澳大利亚的橄榄球比赛中,正确识别 6 人,错误识别 42 人,误报率 87.5%。
在哈里王子和梅根·马克尔(Meghan Markle)2018 年 1 月访问卡迪夫时,南威尔士警方的自动人脸识别系统并未提示任何警报。
南南威尔士警方人脸识别系统的战绩
“错误率高得令人失望。”曾经研究过警方识别技术的诺森比亚大学法医学教授 Martin Evison 说,“识别错误,会把一个完全无辜的人变成嫌疑犯。”他还表示,现实世界中的面部识别,与实验室中的效果往往差异很大。
警方使用的系统需要被仔细调整以提高精度。这些设备不应该产生太多不必要的错误。“如果想抓住更多的嫌疑人,必须设置足够低的门槛,以防漏网之鱼,”他说“但这样又会产生更多的匹配错误。”Evison 说。
“没有任何系统能 100% 准确,”南威尔士警方表示,自从使用这套系统以来,已经抓获了 450 名嫌犯,其中有一名抢劫犯被判 6 年监禁,一名入室盗窃犯被判刑 4 年半。
测试人脸识别
利用自动化系统来扫描公共场所的人脸并匹配数据库的技术,在英国还处于发展初期。而在中国,这套系统却要先进得多。
在一部 BBC 拍摄的短片中,参与测试的记者,短短的 7 分钟后,行踪就被摄像头捕捉到。而据此前的报道,中国警方还利用这套系统在一场张学友的演唱会上找到一名嫌疑人,随后将其抓获。
人脸识别给警方带来的好处显而易见。威尔士警方希望利用这套系统来发现和阻止犯罪活动。“对警方来说,能把找到嫌犯的时间缩短到几分钟甚至几秒钟。”考文垂大学研究员 Alexeis Garcia-Perez说,“这样就能尽可能减少错误逮捕的次数,还有其他一些在公众看来不太好的问题。”
南威尔士警方在对科技进行隐私评估的过程中表示,这种技术“非常先进”,无需人类协助。
该系统由两个接入笔记本或服务器的摄像头构成。这些摄像头的内容都会被录制下来,然后从脚本中提取人脸,自动与关注名单进行匹配。这份名单构成了一个数据库,其中可能包含成千上万张人脸图片。
“关注名单和相关的元数据会被手动添加到系统中,然后会定期进行评估,确保精确度和及时性,而且会在相应的行动结束后才能删除。”南威尔士警方在隐私评估中说。
警方表示,未来有可能将人脸识别技术与其他来源的数据库进行整合。该公司表示,拥有 1900 多万张图片的警察国家数据库、自动车牌识别数据库、护照和驾照信息都会添加到系统中。
每次系统发出警报时,警方都会核查准确与否,以及决定是否派出机动队。警队只有在确认匹配正确时才会触动。
“机动队执行任务时,会先派警员跟嫌疑人接触,”警方发言人表示,“这名警员会迅速核实嫌疑人到底是不是要找的目标。”
应用这一技术之后,南威尔士已经有过多次逮捕行动。今年 1 月,报告称警方因此发起了 50 次指控,进行了 12 次抓捕行动。
2 月,一位用过这套系统的警员发了条推特:“英国警察已经完全不同!主动识别系统一个月前通过夜店的监视系统发现嫌犯,并为今天的抓捕行动提供了准确的定位。”
当然是用这套系统会引发担忧。来自警方自己的评估报告也显示,这套系统会让人们担心自己的隐私被侵犯。
法律基础
英国警方不止在南威尔士使用人脸识别系统。
2015 年,莱斯特郡警方就在著名的下载音乐节(Download Festival)尝试了面部识别技术,那次活动有 9 万人参加,但没有发现任何罪犯。
2017 年 11 月,伦敦警方在诺丁山狂欢节,以及一战阵亡将士纪念碑举行的纪念活动中,分别使用了人脸识别系统。
在伦敦警方最近一次因这套系统误抓嫌犯后,人权组织Liberty抗议说使用这套系统没有“法律基础”。另一个维权团体 Big Brother Watch 指出,议会从未审查过这一技术在公共场所使用的情况。
警方在公共活动中使用的人脸识别系统,与警方通过社交媒体上的照片或者闭路监控视频进行面部对比的系统,是相互独立的两套。
2012 年,英国高等法院裁定,警方存储数百万非嫌疑人的照片是非法的。目前,只有当一个人向警方投诉时,他的照片才会被删除。
“如果这套系统能合理合法高效的运行,公众会更乐于接受,但目前离大家的期望还有一些差距,” Porter说。
Evison 表示,使用面部识别系统时,应该有更多的考虑。他更期待这套系统能更有效地应对足球暴力,以及摇滚音乐会期间的团伙抢劫。
但专家警告称,南威尔士警方和其他机构使用的系统并未受到太多监管,而且对具体运作模式缺乏透明度。关于他们的准确度也存在疑问。
“这些数据表明实时人脸识别不仅对公民自由构成威胁,而且会成为极其不准确的执法工具。”公民权利组织 Big Brother Watch 负责人 Silkie Carlo 说。
该组织计划在本月晚些时候针对英国议会展开一项反对人脸识别技术的宣传活动。“南威尔士的统计显示,这项技术错误识别无辜群众的比例高得惊人,但真正能够支持警方的情况却很少见。”Carlo 说。