Pregiudizi razziali e utilizzo «sciatto» del riconoscimento facciale portano ad arresti errati

L’utilizzo del riconoscimento facciale è destinato a creare moltissima polemica in ogni ambito. Dai rischi che comporta il riconoscimento delle emozioni sul viso delle persone tramite l’AI alla discutibile idea in Russia di far pagare il biglietto tramite riconoscimento facciale (Face Pay), il puzzle si arricchisce di un nuovo tassello con un uomo di Detroit che ha fatto causa alla polizia per averlo arrestato – commettendo un errore – sulla base del riconoscimento facciale. All’arresto sbagliato si è arrivati a causa della scarsa qualità della foto originale e al pregiudizio dell’intelligenza artificiale.

LEGGI ANCHE >>> Intelligenza artificiale tra pro e contro: opportunità o minaccia per l’umanità?

Causa alla polizia per un arresto sbagliato basato sul riconoscimento facciale

L’accusa di taccheggio che ha subito era falsa e l’uomo di Detroit ingiustamente arrestato ha deciso di citare in giudizio il dipartimento di polizia della città che lo ha arrestato. Si tratta della seconda persona statunitense nera arrestata ingiustamente sulla base del riconoscimento facciale: Robert Williams, ha 43 anni e il 9 gennaio 2020 è stato arrestato di fronte alla sua famiglia e trattenuto per 30 ore. Il primo caso è sempre localizzato a Detroit e ha visto come ingiusta vittima di un arresto il 26enne Michael Oliver, che non ha mai commesso il crimine di cui è stato accusato grazie al sistema di riconoscimento facciale della polizia di Detroit.

I pregiudizi razziali dei sistemi di riconoscimento

La causa a danno della polizia di Detroit è stata intentata dall’American Civil Liberties e la polizia di Detroit stessa ha riconosciuto che il lavoro investigativo che ha portato all’arresto del 43enne è stato «sciatto». Un agente ha utilizzato la tecnologia del riconoscimento facciale su un’immagine segnalata dal video del furto – definita «deplorevolmente scadente» – e l’AI, anche per via dei pregiudizi razziali di questi sistemi, ha incrociato i dati e restituito Williams come colpevole.

The Verge cita anche almeno un altro uomo nero che, fuori Detroit, ha citato in giudizio la polizia per un arresto che si è rivelato erroneo. Sono molte le forze di polizia che utilizzerebbero questa controversa tecnologia e parecchie di queste avrebbero anche vietato la pratica per la possibilità di errore in determinati e specifici casi.