Paditë për arrestim të gabuar pas gabimit të njohjes faciale me AI

Robert Dillon, 52 vjeçar nga Fort Myers, po e kërkon drejtëgjithësinë e policisë së Jacksonville Beach, zyrën e shefërisë së Jacksonville dhe shefërin e qarkut Pinellas, Bob Gualtieri, pasi u ndalua në shtëpi për një krim që s’ka ndodhur në vendin ku ai jeton. Algoritmi i sistemit “Faces” i përdorur nga agjencitë e rendit ka dhënë një probabilitet prej 93% se Dillon ishte personi i parë në kamerat e sigurisë në një McDonald’s në Jacksonville Beach, ku ai supozohej se po përpiqej të bindë një vajzë nën 12 vjeç të largohej me të. Sipas dëshmitë e policisë, ai do të kishte tentuar të “lure” një fëmijë, akuzë që përmbante një stigë sociale të rëndë dhe dëmtim të përhershëm reputacioni.

Dillon, i cili jeton më shumë se 300 milje (rreth pesë orë me makinë) larg vendit ku ndodhi incidenti, ka deklaruar se kurrë nuk ka qenë në Jacksonville Beach dhe se ai nuk ka asnjë lidhje me restorantin. Çështja u mbyll në vitin e kaluar, pasi akuzat u hedhën poshtë në gusht 2024, por ACLU (Bashkimi Amerikan për të Drejtat Civile) ka paraqitur një paditje në emër të tij në gjykatën distriktuale të Fort Myers, duke e akuzuar policinë për arrestim dhe ndjekje penale të padrejtë. Në paditje thuhet se kjo është të paktën rasti i 15-të në nivel kombëtar ku një person është arrestuar ose akuzuar për shkak të identifikimit të gabuar nga teknologjia e njohjes faciale.

Sipas dokumenteve gjyqësore, kryetari i hetimeve, Scott O’Connell, ka përjashtuar provë të rëndësishme nga dosja e arrestimit, duke përfshirë të dhënat e lexuesve të targave që tregojnë se asnjë nga automjetet e Dillon-it nuk ka qenë kurrë pranë restorantit. Ai gjithashtu ka fshehur nga gjyqtari që fotografia e përdorur në sistemin “Faces” ishte një screenshot me rezolucion të ulët nga një telefon celular i një oficer, jo një imazh digital i drejtpërdrejtë nga regjistrimi. Përveç kësaj, O’Connell nuk ka sfiduar deklaratën e një punonjëseje të McDonald’s-it, e cila ka identifikuar Dillon-in në një grup fotoje prej gjashtë fytyrave të ngjashme, duke e konsideruar atë si “klient të rregullt” të restorantit.

Në një rast tjetër, por i ngjashëm, Jalil Richardson nga Charlotte, Karolinë e Veriut, u dërgua në Jacksonville dhe kaloi pothuajse tre muaj në burg pasi njohja faciale automatike e vendosi atë në vendin e vjedhjes së një makine, edhe pse karta e kohës tregonte se ai ishte në punë 400 milje larg. Këto raste nënvizojnë shqetësimet e The Guardian për mungesën e mbikëqyrjes adekuate të teknologjive AI në SHBA dhe në Britaninë e Madhe, ku përparimet teknologjike tejkalojnë kapacitetin e autoriteteve për t’i rregulluar.

Dillon deklaron se ende ndjen pasoja psikologjike nga ky incident dhe kërkon që policia në Florida të vendosë masa mbrojtëse për të parandaluar përsëritjen e gabimeve të tilla. “Më shumë se një vit më vonë, ende po rimarr jetën time, sepse policia u mbështet në këtë teknologji të rrezikshme në vend të hetimeve të vërteta,” tha ai. Nate Freed Wessler, zëvendës drejtor i projektit të ACLU për fjalën, privatësinë dhe teknologjinë, shtoi se “policia në të gjithë vendin duhet të kuptojë se teknologjia e pabesueshme e njohjes faciale po dëmton njerëzit, dhe ne do të vazhdojmë të luftojmë për llogaridhënie”.