仅仅是被AI误识别为盗窃犯，28岁的美国小伙便锒铛入狱。
而在此之前，他从未去过案发现场，其住所距离案发区域更是有近900公里。
之后，通过对比监控录像，警方发现他脸上有痣，看上去也比拍到的罪犯要轻40磅（约36斤），这才撤销了搜查令，并于2022年12月1日释放了他——而这据他在11月25日被捕以来，已经过去了7天。
截至目前，进行逮捕的警察局并没有对这场事件进行回应，也没有应其律师要求，公开他们所使用的人脸识别等相关技术手段的任何信息。
这就是最近在美国引发热议的一场由“由AI犯下的冤假错案”。
“AI认为我在千里之外偷了东西”
这场事件中无辜入狱的小哥名叫里德（全名Randal Reid），家住美国乔治亚州。在2022年11月25日当天，他在驾驶时被路边的警察拦住，随后被告知，根据一张“杰斐逊县的搜查令”，他被逮捕了。
这里所说的杰斐逊县是美国路易斯安那州的一个地区，而里德的所在州距案发地点有870公里远，隔了三个州。因此，里德在接受《新奥尔良拥护者报》采访时这样描述当时的场景：
但最后，里德还是被警察带走入狱。他认为，警察明明可以检查他的身高和体重，与他交谈，或在他的住所寻找相关证据，但最终却还是依据AI的判断，将他直接关入监狱。
事后，里德委托律师进行申诉，根据开庭记录，当时逮捕里德的那张“杰斐逊县的搜查令”与2022年6月的一起盗窃案相关，案发地点为路易斯安那州新奥尔良郊区的一家商店，监控拍到三名男子通过假信用卡偷走了累计超过10000美元的高端皮包。
案件发生后，路易斯安那州当地的杰斐逊县警察局（JPSO）通过其搭载了人脸识别技术的AI系统搜寻犯人。在将监控录像中拍到的犯罪嫌疑人图像与驾驶执照、社交媒体公开照片等大量图像对比之后，AI锁定了千里之外的里德，并于2022年7月18日发布了逮捕令。
同时，警局还依据AI系统的判断对另一位21岁的新奥尔良男子申请了逮捕令，但目前尚不清楚是否已经实施抓捕。
当局曾雇佣Clearview AI公司
这次事件重新引起了人们对于人脸识别工具的关注，首当其冲的就是事件发生地——路易斯安那州的人脸识别工具的使用情况。
近年来，美国的一些城市和州已经对警用面部识别系统进行了限制。但事实是，部分城市由于犯罪率居高不下，已经放弃了这一限制。比如路易斯安那州的城市新奥尔良就在今年取消了一项为期两年的有关人脸识别的禁令，而州内的其他城市甚至没有任何监管措施。
根据美国非盈利民权组织——南方贫困法律中心（the Southern Poverty Law Center）获得的2021年公共记录，此次发出逮捕令的杰斐逊县警察局确实是通过州情报中心要求进行面部识别分析的几个地区之一。警局在2021年有三次面部识别分析的请求，目前还尚未应要求提供2022年的记录。
而美国国土安全部（DHS）支持的融合中心（the Fusion Center，包含收集、分析情报工作）在2021年发布的报告又表示，Clearview AI和Morphotrak两家面部识别公司受到了官方组织的雇佣。
Clearview AI是一家在2017年成立的美国人脸识别公司，号称拥有“全球最大人脸数据库”。2019年时，就有报道称有执法部门使用了该公司的产品。2021年12月，Clearview AI在其12月的财报中表示公司已相当于把全世界每个人的照片都收集了14张（全球约70亿人），换句话说就是已经收集到1000亿张面部照片。这一消息在当时引发了轩然大波，有舆论称这会对隐私构成严重威胁。
Morphotrak则隶属于跨国科技集团IDEMIA，主要提供与身份相关的安全服务，并向私营公司和政府出售面部识别和其他生物识别产品和软件。
此外，由于此次事件的受害者——无辜入狱的里德是黑人，也致使不少人再次想起，之前有研究表示，人脸识别工具在有色人种、妇女等群体中的识别错误率更高。
美国麻省理工学院研究院Joy Buolamwini，她曾发现亚马逊等公司的面部分析工具存在种族和性别偏见
里德的律师在接受《新奥尔良拥护者报》采访时表示：
编译：南都记者杨博雯
