Instagram ha “raccomandato” contenuti pedopornografici alle reti di pedofili

Una vasta rete di scambio e vendita di contenuti espliciti con “protagonisti/vittime” minori. Tutto all’interno di uno di una delle piattaforme social più utilizzate dai giovani e dai meno giovani. Un problema enorme, confermato anche da Meta che ha tentato – dopo la segnalazione del Wall Street Journal – di correre ai ripari “bannando” quegli hashtag utilizzati per promuovere la pedopornografia su Instagram. Un problema serio, attuale e sottaciuto per moltissimo tempo: perché il social che fa parte della holding di Menlo Park, attraverso i suoi algoritmi, era diventato un vero e proprio “mercato” di foto e video di bambini ripresi e immortalati durante atti sessuali.

LEGGI ANCHE > Davvero è possibile “Take It Down” per la pedopornografia online?

I numeri emersi dal lavoro del Wall Street Journal, in collaborazione con i ricercatori della Stanford University e dell’Università del Massachusetts Amherst, sono inquietanti: 405 account (a cui si è risalito incrociando gli hashtag di riferimento) che mettevano in vendita foto e video di pedopornografia su Instagram. Questa, dunque, è la genesi dei problemi. Ma c’è anche molto altro, paradossalmente più preoccupante: utilizzando quegli stessi hashtag (che non riporteremo per evitare emulazione o ricerche), la piattaforma social di Meta “suggeriva” l’interazione tra gli utenti e quegli account che guadagnavano attraverso questo “mercato” basato sullo sfruttamento sessuale dei minori. Il WSJ racconta così quanto emerso:

«Seguire solo una manciata di queste raccomandazioni è sufficiente per inondare un account di prova di contenuti che sessualizzano i bambini». 

Dunque, i ricercatori non hanno fatto altro che creare account fittizi, utilizzare quegli hashtag per poi ricevere decine di “suggerimenti” di amicizia a quegli account che facevano parte di questa rete di pedopornografia.

Pedopornografia su Instagram, il social collegava i pedofili

Perché utilizziamo i verbi al passato? Perché dopo la segnalazione del WSJ, Meta ha spiegato di esser corsa ai ripari rimuovendo dagli hashtag “consentiti” (che quindi creavano, attraverso l’algoritmo base, una vera e propria community fatta di suggerimenti di “amicizia”) per tentare di bloccare questo circolo criminale, annunciando l’istituzione di una task force dedicata (quindi, con l’essere umano che deve correggere gli errori dell’intelligenza artificiale degli algoritmi). Ovviamente, però, il problema di base è molto più profondo, partendo da un algoritmo che non è riuscito a filtrare contenuti leciti e illeciti. Anche perché, occorre ricordarlo, le policies di Instagram (e in generale dei social gestiti da Meta) non permettono la condivisione di quei contenuti. Dunque, più di qualcosa è mancato a livello di controllo.

Da chi sono gestiti quegli account

Come evidenziato dal WSJ e dallo Stanford Internet Observatory, i ricercatori che hanno effettuato questa ricerca – che poi si è trasformata in un’inchiesta -, sono riusciti a risalite a quei 405 account “consigliati” da Instagram utilizzando quegli hashtag ora rimossi. Secondo uno studio, buona parte di quei profili sono gestiti proprio da minori che “offrivano” i propri contenuti sessualmente espliciti agli utenti che li raggiungevano sul social. In alcuni casi, oltre a foto e video si organizzavano anche “incontri in presenza”. Il tutto, dunque, attraverso una rete collegata da un algoritmo.

I contenuti di pedopornografia su Instagram messi in vendita, sfruttavano la dinamica della vetrina: non venivano “sponsorizzati” apertamente, ma con una serie di immagini – a mo’ di menù – in grado di superare il sistema di controllo dell’algoritmo di Instagram. Dunque, la piattaforma social era solo il veicolo di questo “commercio” e di questa rete di pedofili. Il resto era fatto di hashtag e contatti diretti, partiti proprio da quelle “vetrine”. Ovviamente, come spiegato nel report dello Stanford Internet Observatory (che ha rivelato l’esistenza di altre reti analoghe anche su altre piattaforme social, ma con numeri inferiori rispetto a Instagram), questi numeri e queste evidenze potrebbero essere solamente la punta dell’iceberg.