UE e UK stanno cercando di combattere la pedopornografia agendo digitalmente sulle persone vulnerabili

Germania, Paesi Bassi, Belgio, Repubblica d’Irlanda e Regno Unito. Sono questi i Paesi che sono stati selezionati per la fase di test dell’app Salus, sviluppata all’interno del Protech Project (finanziato dall’Unione Europea, con la partecipazione anche di alcune organizzazioni del Regno Unito), per provare a dare un contributo alla lotta contro la pedopornografia online. L’obiettivo dell’applicazione è quello di sovvertire completamente il criterio di azione: la principale direttrice dell’intervento, infatti, riguarda non tanto il contenuto sessualmente esplicito in sé, quanto la persona potenzialmente vulnerabile a quel tipo di contenuto. È un tentativo istituzionale, ancora tutto da implementare e ancora tutto da scoprire che, tuttavia, potrà contare su un investimento da quasi due milioni di euro.

LEGGI ANCHE > Cos’è Take it down, la nuova piattaforma (con il supporto di Meta) contro la pedopornografia

App Salus, come funziona lo strumento individuato da UE e Uk contro la pedopornografia online

I numeri dell’app Salus, almeno in fase iniziale, sono abbastanza contenuti. Ma è necessario, durante il test, comprendere a fondo quali possano essere gli elementi da implementare e quali quelli da eliminare: per questo un ristretto bacino di utenti potrà dare delle indicazioni più puntuali al sistema di funzionamento della piattaforma. Saranno 180 le persone coinvolte nella fase iniziale, per un periodo di tempo spalmato su 11 mesi. Ancora una volta, la killer application di questo sistema sarà rappresentata dall’intelligenza artificiale.

Il sistema di AI implementato sull’app sarà quello di SafeToNet, un’azienda che opera da anni nel settore del parental control e che, quindi, può sicuramente fornire una base di dati sufficientemente ampia per organizzare un sistema che possa riconoscere le immagini di pornografia minorile sul web. L’app Salus non sarebbe, dunque, una soluzione interna a una singola azienda (come è capitato in passato per tutti quei social network che hanno cercato di limitare la diffusione di materiale pedopornografico all’interno delle rispettive piattaforme), ma andrebbe ad agire sull’intero ecosistema del web, intervenendo in modo particolare sugli utenti che abitualmente fanno uso di questo tipo di materiale.

Non si conoscono i dettagli sul funzionamento dell’applicazione, ma soltanto i partner del progetto (tra cui la Internet Watch Foundation, che da anni si occupa di monitorare la distribuzione di questo tipo di contenuto sul web). Tuttavia, nelle uscite pubbliche in cui si è parlato del ruolo dell’app Salus, tutti gli attori in gioco hanno assicurato che la sua unicità consiste nell’efficacia del suo sistema di rilevazione delle immagini e nel coinvolgimento diretto delle persone che in passato sono state coinvolte in casi di pedofilia, per cercare di comprendere i meccanismi psicologici che induce gli utenti a fare questo tipo di ricerca sul web.

Quali sono i punti aperti a proposito dell’app Salus

Abbiamo già espresso delle perplessità in merito all’utilizzo di personale fisico per il monitoraggio di contenuti online pedopornografici (ed è stata proprio questa vulnerabilità a causare il fallimento della prima iniziativa di Facebook, risalente al 2018, per eliminare i nudi dei minori sulla propria piattaforma). E anche in questo caso si configura lo spettro di una possibile distorsione dello strumento. Questa volta, però, non si tratta dell’investimento di una società privata (Facebook, appunto), ma di un’applicazione finanziata anche attraverso i fondi della Commissione Europea. Dunque, non potrebbe essere contemplato il rischio di mettere in piedi uno strumento non efficace.

Al momento, dunque, c’è un clima d’attesa per questo strumento (lo ha sottolineato anche il componente del Collegio del Garante della Privacy, Guido Scorza, all’interno della propria newsletter), ma per misurarne gli effetti bisognerà valutare quantomeno la prima fase di test. Il problema, intanto, continua a essere urgente e diffuso, nonostante le molteplici soluzioni che – intelligenza artificiale o meno – nel tempo sono state proposte a vario livello.