10.000 moderatori umani per segnalare i contenuti violenti su YouTube

di Redazione | 05/12/2017

moderatori umani

YouTube dichiara guerra ai contenuti non adatti ai bambini: la CEO Susan Wojcicki ha annunciato che nel entro il 2018 i contenuti delle piattaforme Google – quella di video in primis – saranno controllati da 10.000 moderatori umani, che avranno il compito di rimuovere i contenuti che violano la policy e allo stesso tempo “insegnare” alle macchine come riconoscerli automaticamente nel futuro.

«I moderatori umani restano essenziali sia per rimuovere contenuti, sia per addestrare i sistemi di apprendimento automatico, perché il giudizio umano è fondamentale per prendere decisioni basate sulla contestualizzazione», ha scritto Susan Wojcicki in un post apparso sul blog aziendale. Il pericolo è soprattutto per i più piccoli, a cui spesso vengono destinati video che in realtà non dovrebbero guardare. «Immagini spacciate per contenuti adatti alla famiglia, che però non lo sono», ha spiegato la CEO.

YOUTUBE ARRUOLA 10.000 MODERATORI UMANI, PER ELIMINARE I CONTENUTI NON ADATTI AI MINORI

Il team di moderatori umani di YouTube sta collaborando con le organizzazioni impegnate nella sicurezza dei minori, proprio per segnalare loro comportamenti inappropriati. «I malintenzionati che cercano di sfruttare la nostra piattaforma sono in aumento», ha scritto la Wojcicki in un messaggio diretto alla platea degli utenti, spiegando loro che «queste persone danneggiano l’intera comunità, perché minando la fiducia nella piattaforma» riducono i proventi pubblicitari di tutti.

Il problema non sono solo i contenuti dei video, ma anche i commenti. Nelle scorse settimane ne sono apparsi diversi a stampo pedofilo sotto le immagini di bambini. Gli episodi hanno convinto alcuni inserzionisti pubblicitari ad abbandonare YouTube ed è stato proprio questo, probabilmente, a spingere la Wojcicki ad annunciare l’aumento dei moderatori umani.

La CEO ha ricordato come YouTube sia uno strumento prezioso per i suoi figli: «La nostra piattaforma aperta è stata luogo di impulso per la creatività, l’apprendimento e l’accesso all’informazione – ha spiegato nel post – ma ho anche visto da vicino che può esserci anche un aspetto preoccupante nell’apertura di YouTube».