Cosa vuole fare Meta per i contenuti pedopornografici su Instagram?

Quello di Instagram che raccomanda contenuti pedopornografici agli utenti permettendo – tramite il funzionamento dell’algoritmo – di entrare in reti di contenuti espliciti che vedono come soggetti i minorenni è un problema che si va ad aggiungere agli altri. I social network in generale – non solo quelli che appartengono a Meta – sembrano essere impossibili da regolamentare in questo senso. Da quando sono uscite le prime inchieste del Wall Street Journal – frutto delle soffiate di Frances Haugen – i riflettori sono stati puntati su contenuti di ogni tipo, da quelli che promuovono giochi d’azzardo a quelli che parlano di diete e farmaci, evidenziando anche le conseguenze che il materiale veicolato tramite determinati hashtag hanno sui giovani utenti delle piattaforme. Quest’ultima questione emersa, però, è evidentemente la più grave di tutte e sulla questione Meta ha dovuto agire immediatamente.

LEGGI ANCHE >>> Instagram ha “raccomandato” contenuti pedopornografici alle reti di pedofili

Contenuti pedopornografici su Instagram, la replica di Meta

Instagram viene utilizzato dalla reti di pedofili per promuovere e vendere contenuti che ritraggono minori, quindi: questo è quello che emerge dall’ulteriore inchiesta del WSJ – sviluppata insieme ai ricercatori della Stanford University e dell’Università del Massachusetts Amherst. Instagram è diventato un importante atterraggio per questo tipo di attività «a causa di funzionalità come algoritmi di raccomandazione dei contenuti e di messaggistica che aiutano i venditori a connettersi con gli acquirenti», si legge nella ricerca.

Meta ha preso atto della questione ed è intervenuta rimuovendo gli hashtag segnalati nello studio e che, seppure consentiti, venivano utilizzati impropriamente per creare queste reti di contatto sfruttando l’algoritmo che sta dietro le raccomandazioni che tutti i giorni riceviamo. Raccomandazioni che, in questo caso, sono state usate per creare una rete criminale e una community di persone che sono riuscite a trovarsi basandosi sull’interesse comune per questo tipo di materiale e di hashtag. Parlando degli sforzi precedenti, Meta afferma di aver abbattuto 27 network di pedofili negli ultimi due anni e di stare lavorando all’azione contro altre realtà di questo tipo.

Oltre a questo, la società – prendendo atto del problema e ammettendone l’esistenza – ha annunciato la nascita di una task force dedicata che possa agire sull’esistenza di queste reti, sugli hashtag, sugli account che diffondono questi contenuti: una squadra umana, in sostanza, che vada ad agire laddove l’algoritmo non è in grado di individuare la problematicità dei contenuti veicolati tramite hashtag che non sono vietati. Lo scopo è quello di riuscire, tramite restrizioni applicate ai sistemi, a non far suggerire ricerche associate ad abusi sessuali di ogni tipo.

Le segnalazioni che cadono nel vuoto

Un altra questione interessante emersa – e che sicuramente evidenzia una grande mancanza da parte di Meta nella gestione del sistema – è la mancata replica alle segnalazioni ricevute dagli utenti. Una gestione inadeguata che, in alcuni casi, ha fatto sì che una segnalazione ricevuta impiegasse mesi per essere esaminata o finisse per essere addirittura ignorata.

I contenuti caricati sui social sono talmente tanti che – va da sé – è impossibile che un team di moderatori umani possa occuparsene. Ci sono i sistemi di controllo tramite tecnologia, ovviamente, ma cosa succede quando la segnalazione che non viene presa in considerazione riguarda il contenuto sessualmente esplicito di un minore? Ovviamente la piattaforma diventa un luogo perfetto per diffondere questo tipo di contenuti e per mettere in contatto – sotto gli occhi di tutti – coloro che di questo materiale fruiscono.