作者｜宇伊           
出品｜遇见人工智能        公众号｜GOwithAI

南威尔士警察部队最近有些尴尬。

本来是一件好事，因为他们应用了一项最新的技能：用人脸识别来追踪识别逃犯。 

还想着用此技能放大招，捕获更多的嫌犯来邀功请赏，并让罪犯闻风丧胆。但事与愿违，他们的人脸识别却错误地识别了成千上万的人，更有意思的是，这些被误识别的人都曾是过去的罪犯。

以2017年欧冠决赛的一场比赛中的实际应用为例：南威尔士警方使用了这个人工智能面部识别程序，将现场球迷和人群与数据库中的面部照片进行比对。

你猜怎么着？可以套用的一句话就是：总以为他是个王者，没想到却是…..

当17万人抵达威尔士首都参加皇家马德里和尤文图斯之间的足球比赛时，仅在这一天，该算法就对2297人进行了错误的标记。

据“卫报”报道，这占该项目认定的罪犯总数的92%。但值得肯定的是，该系统确实也成功引导警方在比赛中逮捕一名违反假释规定并在返回监狱时逃之夭夭的男子。

警方对此也做出了回应，表示任何发展中的技术都会有一些问题需要解决。他们承认没有一个系统是完美的，并指出，自从他们开始使用这项技术以来，他们总共逮捕了450人。

那么误识别的问题出现在哪？他们总结后归咎于输入系统的低质量面部照片，以及这是他们第一次尝试在重大事件中使用面部识别软件。

但所有这一切又引出了另外一个问题：为什么该部门认为从一开始就尝试这一做法是个好主意？

他们的反应表明，虽然他们花时间训练算法，但是只识别了粗糙的、低质量的照片，但没有人停下来想：也许这些低质量的照片会让成千上万的人成为我们新算法的目标对象，仅仅因为它们看起来有点相似。

南威尔士警方还表示，他们重视隐私，就像任何人利用人工智能来识别和扫描大量的毫无戒心的人的面孔一样，并打算在安全风险很高的情况下使用该系统，而不是随便监视公民。

毋庸置疑，警察只想对通缉的罪犯采取行动，因为一个拥挤的运动场可能成为恐怖袭击的潜在破坏性目标。

但是，即使警方没有拦截系统标记的每个人，它仍然被明确设计来识别这个场合中与数据库中数据相关的人。关于那些他们不打算逮捕的人，警方依然可以掌握大量的信息。

如果像这样，那么成功地阻止轰炸机、枪手造成的破坏并拯救了无辜的受害者也将为期不远。

福利｜点标题下蓝字，或微信搜“遇见人工智能”，关注后回复”报告”，1秒钟获取麦肯锡、德 勤等198份顶级最新AI报告。

专注人工智能的首席全媒体

「AI名利场」  「这很AI」  「AI新声」 

商务合作、转载、投稿请联系微信 

▼ 

Lxz216216216