Ma com’è possibile che YouTube non abbia moderato i contenuti razzisti dell’aggressore della metro a NewYork?

C’è un problema con la moderazione sulle piattaforme social. Questa cosa la sapevamo già. Ma riemerge con sempre maggiore prepotenza quando accade un fatto che entra nell’immaginario collettivo. Il fatto in questione, nella fattispecie, è rappresentato dall’aggressione che si è verificata ieri nella metropolitana di New York. Un numero importante di feriti, alcuni gravi anche se non in pericolo di vita, immagini che hanno fatto rapidamente il giro del mondo e che hanno riportato alla mente gli attacchi al cuore della Grande Mela. Per questi fatti è stata indicata dalle autorità una cosiddetta person of interest, un sospettato: si tratta del 62enne Frank R. James. Un uomo che avrebbe agito da solo, mosso esclusivamente da sue considerazioni personali. Ma che, in realtà, aveva già dato ampi segnali di instabilità che, se la moderazione dei vari social network funzionasse davvero, avremmo potuto cogliere già da tempo. Infatti, molti suoi video sarebbero stati caricati su alcuni canali YouTube (tra l’altro questi video risultano essere ancora pubblicati). Sono contenuti che, se analizzati non da un semplice schema di intelligenza artificiale, ma da un moderatore in carne e ossa, avrebbero potuto prevenire quanto successivamente accaduto.

LEGGI ANCHE > I grandi network che si affidano ancora una volta ai social per documentare la sparatoria nella metro a Brooklyn

Frank R. James e i suoi video su YouTube

In seguito ad alcune affermazioni della polizia di New York che ha parlato apertamente di un «collegamento del gesto con i suoi video», si è potuto apprendere che Frank R. James fosse un utente molto attivo, sia su YouTube, sia su Facebook. I suoi video compaiono sul canale (che ha poco meno di 3mila followers e che si presenta con un nickname non corrispondente a una persona reale) prophet of truth88 e sul profilo Facebook profitofdoom008. In uno di questi, intitolato STOP ONE COMPLETE, dalla durata di quasi mezz’ora si assiste alle sue farneticazioni razziste, antisemite, molto violente nei confronti delle istituzioni e delle autorità cittadine.

Si parla di razzismo, della necessità di una profilazione in base alla razza, della sterilizzazione delle donne nere. Si attaccano un po’ tutti i gruppi etnici, senza alcuna distinzione; ci si rivolge in maniera aggressiva con le autorità di salute pubblica e con le istituzioni mediche che operano a New York e che cercano di aiutare le persone in difficoltà. Un risentimento che, a fronte di immagini apparentemente normali (nel video di YouTube citato si vede semplicemente il soggetto in questione alla guida di un mezzo, mentre fa il suo monologo lunghissimo), nasconde una violenza di concetto molto forte.

La situazione che si viene a configurare sembra essere molto chiara: un video, se non contiene immagini di violenza, difficilmente finisce nel mirino dei moderatori di una piattaforma social, semplicemente perché l’intelligenza artificiale non riesce a operare anche sui suoi contenuti. È il grande problema di molti strumenti digitali che abbiamo a disposizione in questo periodo storico. Anche il fatto che, molto spesso, la differenza tra il dire e il fare è enorme lascia un certo margine di tolleranza rispetto alle affermazioni di comizi improvvisati che potrebbero raggiungere, potenzialmente, vasta parte della popolazione che utilizza il web e che potrebbero in qualche modo condizionarla. Siamo di fronte a una responsabilità enorme che, purtroppo, finora è stata soltanto evidenziata ma mai affrontata sul serio.