Il filtro open source di Google contro le molestie ai giornalisti

Si tratta di uno strumento anti molestie giornalisti open source di Google che prende il nome di Harassment Manager. I destinatari sono giornalisti e figure pubbliche che, per i modi in cui si espongono in rete, sono facile bersaglio di commenti potenzialmente molesti che vanno contro le regole delle piattaforme. A partire da Twitter arrivando a tutti gli altri social, Harassment Manager debutta come codice sorgente per gli sviluppatori e verrà lanciato come applicazione per i giornalisti della Thomson Reuters Foundation a giugno, che saranno i primi a sperimentare la sua efficacia.

LEGGI >>> Gli sforzi di Meta per porre un confine alle molestie nel mondo della realtà virtuale

Come funziona Harassment Manager, filtro anti molestie per giornalisti

Il sistema agisce collaborando con l’API di Twitter allo scopo di combinare le opzioni di moderazione (ad esempio nascondere le risposte ai tweet o bloccare determinati account) con un sistema di filtraggio e segnalazione di massa. Il filtro – come spiega The Verge – agisce classificando i messaggi in base al loro livello di “tossicità” basato su presenza di minacce, insulti e bestemmie. In questo modo – con la suddivisione in gruppi – per gli utenti è più semplice  e rapido occuparsi dei messaggi molesti. L’utente può decidere anche di offuscare il testo dei messaggi senza doverli leggere tutti andando a individuare specifiche parole chiave e code generate automaticamente.

Il report scaricabile da presentare ai datori di lavoro

Considerato che per un giornalista finire al centro di uno shit storm e moderarlo è un lavoro vero e proprio che porta via moltissimo tempo e moltissime energie – recentemente abbiamo parlato del caso di una giornalista minacciata per aver smascherato dei finti giornalisti influencer -, lo strumento fornisce la possibilità di generare e scaricare un rapporto contenente tutti i messaggi abusivi da consegnare al datore di lavoro. Una funzione del genere torna sicuramente utile anche quando si ricevono minacce che devono essere presentate alla polizia per denunciare la questione.

Attualmente non esiste un’app che le persone possano scaricare ma gli sviluppatori, a partire dal codice rilasciato, possono costruire applicazioni che incorporino queste funzionalità. «La nostra speranza è che questa tecnologia fornisca una risorsa per le persone che stanno affrontando molestie online, in particolare le donne giornaliste, attiviste, politiche e altre figure pubbliche, che hanno a che fare con una tossicità sproporzionatamente alta online», fa sapere l’unità Jigsaw di Google.