I gadget antisemiti presenti su Pinterest evidenziano la necessità di fare lavoro di moderazione migliore

6MWE vuol dire “6 Million Wasn’t Enough”, letteralmente “6 milioni non sono stati abbastanza”. Si tratta di un osceno motto antisemita che allude al fatto che l’uccisione di 6 milioni di ebrei durante l’Olocausto non sia abbastanza poiché ne sarebbero dovuti morire di più. Una sigla che, chi assistito agli eventi di Capitol Hill, potrebbe ricordare stampata sulle magliette di alcuni degli assaltatori pro-Teump. Contenuti di questo tipo – che, in maniera evidente, violano i regolamenti delle piattaforme social contro la violenza – possono essere trovati su Pinterest. Quella di 6MWE Pinterest è una situazione sulla quale la piattaforma sta lavorando ma che, come spesso succede in questi casi, sembra essere di difficile gestione.

LEGGI ANCHE >>> Israele sì, Palestina no: la storia della Coca Cola che fa personalizzare la bottiglia solo con alcune parole

6MWE Pinterest, cosa si può trovare sulla piattaforma

Come riporta The Markup, su Pinterest si possono trovare merci antisemite. Non tramite la ricerca diretta – digitando  6MWE, infatti, compare il messaggio “Pinterest non è un luogo adatto alla pubblicazione di immagini, contenuti o attività che incitano all’odio” – ma tramite la ricerca da Google digitando “6mwe hoodie”. Così facendo compaiono decine di pin che rimandano a prodotti di questo tipo, felpe che incitano all’odio nei confronti degli ebrei, acquistabili da diversi siti.

Questi contenuti violano chiaramente il regolamento di Pinterest, più precisamente la parte che impedisce la condivisione di «teorie di cospirazione basate sull’odio e disinformazione, come la negazione dell’Olocausto». The Markup ha domandato direttamente a Pinterest, che sostiene di limitare e rimuovere costantemente contenuti di questo tipo.

Ombre sulla strategia di moderazione di Pinterest

Il fatto che i contenuti non siano rintracciabili per vie dirette ma comunque accessibili in maniera indiretta fa riflettere su come Pinterest sceglie di attuare la sua moderazione. In sostanza si impedisce di trovare quei contenuti sul sito ma, effettivamente, non li si elimina. The Markup riferisce di aver trovato 64 pin contenenti merce con riferimenti alla sigla “6mwe”, pin che ha potuto salvare e organizzare in una scheda privata.

L’organizzazione che fa data journalism ha pubblicato i risultati della sua ricerca e Pinterest ha rimosso i pin in questione. «Non c’è posto per contenuti come questi su Pinterest – ha riferito una portavoce della piattaforma – e quando identifichiamo o veniamo a conoscenza di contenuti che violano le nostre politiche, rivediamo e prendiamo provvedimenti». A una ulteriore richiesta di chiarimento dell’organizzazione la risposta è stata che i risultati della moderazione non sono sempre perfetti «dato il volume e la complessità dei contenuti, c’è sempre più lavoro da fare, e riconosciamo anche che abbiamo più opportunità di migliorare».

Pinterest è già stato criticato in passato per la scelta di limitare la ricerca dei contenuti non agendo, di fatti, per rimuoverli. Già lo scorso anno un’indagine di OneZero ha scoperto che alcune immagini sessualizzanti di giovani donne, disinformazione sul Covid e sui vaccini e contenuti dei QAnon hanno potuto – proprio per questa mancata rimozione – continuare ad esistere sulla piattaforma, rintracciabili sempre tramite una ricerca mirata su Google.

Da Pinterest agli e-commerce di prodotti antisemiti

Il punto è che tramite un terzo di quei pin individuati da Markup si può accedere a una serie di e-commerce dove è possibile comprare una serie di t-shirt, felpe e articoli apertamente antisemiti. Secondo quanto riferisce Vishwakarma Singh, responsabile dell’apprendimento automatico, della fiducia e della sicurezza dell’azienda – Pinterest sta lavorando per implementare la capacità del suo apprendimento automatico di riconoscere e moderare i contenuti.