I video dell’aggressore della metro di New York continuano ad essere caricati su Youtube

Il canale Youtube di Frank R. James, il 62enne accusato per l’attacco terroristico nella metro di New York che è stato arrestato mercoledì, è già finito al centro di diverse considerazioni visti i contenuti pubblicati (la polizia non ha esitato a parlare di «collegamento del gesto con i suoi video»). Noi stessi abbiamo fatto una riflessione sul problema evidente che, nonostante tutto, c’è ancora con la moderazione delle piattaforme social – problema che affrontiamo nel quotidiano ma che viene ancor più e prepotentemente evidenziato quando accadono fatti di questa portata -. L’uomo, secondo quanto si apprende dalle indagini, avrebbe agito da solo basandosi su sue considerazioni personali già ampiamente espresse sul suo canale Youtube . I segnali di instabilità c’erano tutti e venivano ampiamente mostrati nei video Youtube Frank R James, contenuti che se moderati da una persona in carne ed ossa avrebbero potuto mettere in guardia le autorità rispetto alle intenzioni dell’uomo. Quegli stessi contenuti che

LEGGI ANCHE >>> Ma com’è possibile che YouTube non abbia moderato i contenuti razzisti dell’aggressore della metro a NewYork?

I video Youtube Frank R. James ricaricati su Youtube

Insulti razziali contro tutte le etnie, minacce, profilazione in base alla razza, sterilizzazione delle donne nere: questi alcuni dei contenuti presenti nei video che Youtube aveva rimosso in toto – bloccando il canale dell’uomo – e che sono stati nuovamente caricati sulla piattaforma. Come riporta NBC News, i video in questione continuano ad essere uploadati nonostante il canale sia stato chiuso mercoledì e sembra che a farlo siano più utenti. NBC ha monitorato e segnalato la situazione a Google. Tra le altre, una clip in cui si esprime odio nei confronti di coloro che parlano spagnolo è stata vista oltre 17 mila volte (rimosso giovedì). Un altro video, visto oltre 11 mila volta, vede l’uomo protagonista esprimere pensieri violenti in merito alle donne bianche..

Perché contenuti che violano palesemente le linee guida rimangono online?

Non c’è dubbio alcuno rispetto al fatto che contenuti del genere violino le linee guida di Youtube. La moderazione dei video, però, per loro stessa natura è molto più complicata di quella dei testi scritti o di video che contengono immagini violente rilevabili dall’intelligenza artificiale. Come è possibile che contenuti del genere rimangano online per moltissimo tempo e non vengano rimossi e che i medesimi possano essere ricaricati dopo una tragedia del genere?

Youtube ha utilizzato un sistema chiamato hash matching il cui scopo è evitare che determinati video vengano ricaricati su Youtube o sul altre piattaforme. In particolare, la tecnologia è stata utilizzata per il video della sparatoria di massa del 2019 a Christchurch – in Nuova Zelanda -. Spesso e volentieri, però, il limite imposto si riesce ad aggirare soprattutto per contenuti in cui la violenza non è così palese.

«I video sono più facili da manipolare e cambiare leggermente in modo da eludere i divieti di contenuto – afferma Michael Karanicolas, direttore esecutivo dell’Istituto per la tecnologia, la legge e la politica alla UCLA – Sono più difficili da rivedere e le tecnologie di filtraggio, per come sono ora, non funzionano così bene. Quando sono applicate ai video c’è un rischio molto più significativo di danni collaterali».