Twitter annuncia l’analisi dei pregiudizi dei suoi algoritmi

Jack Dorsey e il team di Twitter hanno annunciato che analizzeranno l’algoritmo del social per capire l’entità degli eventuali «danni volontari». L’intento è quello, quindi, di analizzare gli impatti dannosi degli algoritmi tramite l’iniziativa che prende il nome di Responsible Machine Learning. Un team di ingegneri, data scientist e ricercatori è già al lavoro per capire in che modo l’utilizzo dell’apprendimento automatico da parte di Twitter possa portare a pregiudizi algoritmici che possono portare a un impatto negativo sugli utenti.

LEGGI ANCHE >>> Facebook accusato di pregiudizi razziali nel sistema delle assunzioni

L’algoritmo Twitter che taglia i volti preferendo quelli bianchi

Questo è tra i primi comiti del team: valutare quel pregiudizio razziale e di genere dell’algoritmo che lo spinge a preferire i volti bianchi a quelli neri. A notarlo sono stati gli utenti partendo dalle anteprime delle foto ritagliate automaticamente dal social. Già dal mese scorso la società ha cominciato a testare la visualizzazione di immagini complete anziché di anteprime tagliate per ovviare il problema. Nel mirino degli analisti finiranno anche il modo in cui il feed si presenta alle persone a seconda della loro etnia e le raccomandazioni sui contenuti di tipo politico a seconda del paese.

Ancora non è chiaro cosa accadrà

L’analisi di Twitter e di come funziona è ancora agli albori e il social stesso ha dichiarato che non ci sono idee precise su cosa verrà scoperto: L’intento è quello di lavorare gomito a gomito con ricercatori accademici e condividere i risultati chiedendo anche un contributo da parte degli utenti. Quello che è chiaro è che i risultati «potrebbero non sempre tradursi in modifiche visibili del prodotto», portando però «una consapevolezza maggiore e discussioni importanti» sul modo in cui viene utilizzato il machine learning.

L’utente potrà controllare gli algoritmi che determinano il feed

L’intenzione di Twitter è quella di dare sempre più potere all’utente, anche sull’algoritmo che determina i feed. Tutto parte da un processo di esplorazione che ha come scopo il raggiungimento della “scelta algoritmica”, ovvero la possibilità dell’utente di influenzare i contenuti che gli vengono offerti. Jack Dorsey ha parlato, lo scorso febbraio, di una «visione simile a un app store degli algoritmi di ranking» tra cui gli utenti potranno scegliere quello che fa al caso loro per gestire il proprio feed.