L’intelligenza artificiale di Amazon punisce gli autisti per errore

All’inizio del 2021, Amazon ha installato telecamere dotate di intelligenza artificiale nei furgoni di consegna di uno dei suoi depositi a Los Angeles. Queste però non sembrano funzionare eccellentemente e alcuni autisti sono stati penalizzati per errore.

LEGGI ANCHE > Google Mum, l’intelligenza artificiale che potrebbe cambiare l’idea di Seo

L’intelligenza artificiale di Amazon

Lo scorso febbraio, Amazon ha annunciato che avrebbe installato telecamere realizzate dalla startup AI-tech Netradyne nei suoi furgoni di consegna a marchio Amazon come innovazione per «tenere al sicuro gli autisti». Questo però ha comportato delle conseguenze impreviste. Come racconta Vice, un autista dello stabilimento di Los Angeles ha segnalato che la telecamera installata nel suo furgone per le consegne ha iniziato a penalizzarlo ogni volta che le auto gli tagliavano la strada, il che accade quotidianamente in qualsiasi grande città che si rispetti.

La telecamera avvisava di mantenere la distanza di sicurezza quando un auto sbucava davanti al suo furgone. L’insieme di segnalazioni come questa, però, sono utilizzate da Amazon per valutare le prestazioni della settimana dell’autista e per poi determinare se ha i requisiti per ricevere un bonus. L’autista di Los Angeles ha raccontato che ogni volta che deve fare una svolta a destra, accade inevitabilmente che qualcuno gli tagli la strada per spostarsi nella sua corsia. Come evitare qualcosa che dipende dalla condotta altrui?

Le telecamere Netradyne puniscono ingiustamente

L’autista ha raccolto dei feedback da altri autisti di Amazon in California, Texas, Kansas, Alabama e Oklahoma e tutti insieme hanno constatato come le telecamere Netradyne, piuttosto che incoraggiare una guida sicura, puniscono regolarmente gli autisti per i cosiddetti «eventi» che sono fuori dal loro controllo e che di fatto non rappresentano episodi di guida non sicura.

La telecamera Netradyne richiede ai conducenti di Amazon di firmare dei moduli in cui si presta il proprio consenso all’utilizzo dei loro dati biometrici. E poi, come funziona? Quando la telecamera rileva un evento, carica il filmato su un’interfaccia accessibile ad Amazon e alle sue società di consegna, e in alcuni casi, una voce robotica parla al conducente. Ogni volta che la telecamera registra un evento, il filmato viene caricato in un sistema, registrato e influisce su un punteggio che gli autisti ricevono alla fine della settimana per la guida sicura.

Per molti autisti di Amazon, questi punteggi determinano i propri bonus settimanali, premi e paga extra. A dispetto di quanto si possa pensare, un portavoce di Amazon ha detto che un team di dipendenti Amazon esamina manualmente tutti gli eventi che vengono appellati per garantire che gli eventi errati non abbiano un impatto sugli autisti. Ma dobbiamo davvero credere che in qualche postazione fisica ci sia un gruppo di persone che controllano – evento per evento – le segnalazioni delle telecamere ad intelligenza artificiale? Che senso ha utilizzare un così elevato livello di tecnologia se poi la verifica dello strumento ricade sempre sull’intelligenza umana?