Il riconoscimento facciale di Amazon scambia parlamentari per criminali

di Enzo Boldi | 27/07/2018

Riconoscimento facciale Amazon, fail

Quante volte è stato detto «i politici sono tutti ladri». Ora ci si mette anche la tecnologia. Negli Stati Uniti, il riconoscimento facciale Amazon ha, infatti, scambiato 28 membri del Congresso Usa per dei criminali. Rekognition, il sistema utilizzato dal colosso statunitense ha infatti fallito in 28 casi sui 535 testati proprio tra la classe politica americana.

LEGGI ANCHE > Facebook annuncia novità: dal riconoscimento facciale facoltativo alle impostazioni sulla pubblicità

Non è uno scherzo, ma le conseguenze possono essere serie. Il test, fallito in parte, ha messo in evidenza alcune falle in un sistema che dovrebbe coinvolgere anche la polizia statunitense che, a breve, utilizzeranno questa tecnologia per il riconoscimento facciale dei criminali. «Se le forze dell’ordine usassero Amazon Rekognition – affermano dalla Aclu, American Civil Liberties Union, l’associazione che ha effettuato il test per dimostrare ai membri del Congresso Usa le criticità di questo progetto – non è difficile immaginare che alcune persone saranno interrogate o perquisite solo perché un software ha riscontrato una corrispondenza tra il loro tratti somatici e quelli di un archivio di criminali». Una tecnologia fallace che potrebbe portare a gravi violazioni delle libertà individuali.

Riconoscimento facciale Amazon va contro la libertà umana

«Un’identificazione, che sia accurata o meno, potrebbe costare loro la libertà o persino la vita – spiegano dalla Aclu -. Le persone di colore sono già danneggiate in modo sproporzionato dalle pratiche della polizia. Ed è facile prevedere come Rekognition possa peggiorare le cose». L’Aclu ha inserito un archivio di oltre 25.000 foto segnaletiche prima di testare la tecnologia sui partecipanti del Congresso. I risultati, con i 28 casi di errato riconoscimento – cioè piu’ del 5% del numero di parlamentari -, hanno messo in evidenza che la maggior parte degli errori abbia riguardato i parlamentari di colore, che costituiscono un quinto del totale del Congresso.

Riconoscimento facciale Amazon, sospesi i test a Orlando

Amazon Rekognition era già stato testato nella città di Orlando, in Florida, con la polizia che prima ha spiegato i particolari della sperimentazione, sottolineando quando sarebbe ne utile l’applicazione di questa per poi fare un passo indietro e interrompere i test un mese dopo.