Twitter aveva annunciato l’analisi dei pregiudizi dei suoi algoritmi per migliorare la situazione e ora i risultati sono arrivati. La conclusione? L’algoritmo Twitter per il taglio delle foto preferisce volti giovani, belli e bianchi. Dopo gli esperimenti degli utenti che, lo scorso marzo, hanno suggerito che l’algoritmo compie i tagli favorendo i bianchi rispetto ai neri, Twitter ha deciso di disabilitarlo e di fare ricerca in merito lanciando un bug bounty algoritmico.
L’intuizione degli utenti è stata confermata: l’algoritmo di taglio di Twitter preferisce volti «snelli, giovani, di colore della pelle chiara o calda e con una struttura della pelle liscia, e con tratti facciali stereotipicamente femminili». Non solo quello che preferisce ma anche quello che viene penalizzato: persone con capelli grigi o bianchi – quindi persone in là con gli anni – e scrittura araba.
LEGGI ANCHE >>> Twitter annuncia l’analisi dei pregiudizi dei suoi algoritmi
Ad annunciare i risultati della ricerca è stato Rumman Chowdhury, direttore del team META di Twitter – il cui studio si incentra sull’etica, la trasparenza e la responsabilità dell’AI). «Creiamo questi filtri perché pensiamo che questo sia il bello, e questo finisce per formare i nostri modelli e guidare queste nozioni irrealistiche di ciò che significa essere attraenti», ha affermato commentando i risultati della ricerca.
Ricerca che è stata condotta sotto forma di concorso, con uno studente di un’università svizzera che ha vino il primo premio usando un programma di intelligenza artificiale chiamato StyleGAN2 per generare un gran numero di volti realistici che ha variato in base al colore della pelle, ai tratti del viso femminili o maschili e alla magrezza. Le immagini sono poi state analizzate dall’algoritmo di photo-cropping di Twitter e il risultato è stato che i pregiudizi dell’algoritmo fanno si che vengano tagliati via «coloro che non soddisfano le preferenze dell’algoritmo di peso corporeo, età, colore della pelle».
Questo è quello che ha dimostrato Vincenzo di Cicco, altro partecipante alla ricerca, che ha vinto una menzione speciale per il suo approccio innovativo. L’algoritmo, infatti, compie questo tipo di scelta anche quando si tratta di volti finti, emoji appunto. Roya Pakzad, fondatore dell’organizzazione di difesa della tecnologia Taraaz – inoltre – ha chiarito come l’algoritmo preferisca i meme che utilizzano la scrittura inglese rispetto a quelli che utilizzano quella araba.
Nonostante Twitter abbia deciso di smettere di tagliare le fotografie degli utenti da maggio, quindi, la società è voluta arrivare in fondo alla questione facendo emergere i bias dell’algoritmo e agendo per modificarli. La soluzione è quella di intervenire con sistemi di controllo esterno, ovvero agli utenti e a persone che riescono a «immergersi in profondità in un particolare tipo di danno o bias è qualcosa che i team delle aziende non hanno il lusso di fare».