Come rendere più difficile e punibile la creazione di deepfake porn

I deep fake prima ancora che per fare disinformazione o manipolare le campagna elettorali sono stati creati e vengono utilizzati per l’abuso di immagine delle donne  più impropriamente noto come deepfake porn. Questa tipologia di contenuti, attualmente, è fin troppo semplice da realizzare. Ne ha parlato Henry Ajder, esperto nel monitoraggio del fenomeno, che ha evidenziato come – negli ultimi tempi – sia diventato facilissimo creare un deepfake porn con protagoniste donne comuni. Basta sapere dove andare, caricare una foto del volto e con un click dare alla luce il contenuto. Con tutte le conseguenze del caso.

LEGGI ANCHE >>> Video deepfake: cosa sono e come vengono usati dai truffatori

Quanto è facile creare deepfake porn

Lo prova un sito, che è stato segnalato dai media per poi sparire senza lasciare tracce o spiegazioni. I bersagli maggiori della tecnologia deepfake, da quando è emersa nel 2017, sono sempre state le donne. Prima quelle famose, poi anche le persone comuni. Il fine ultimo è sempre quello di creare contenuti di questo tipo. Già nel 2019, come conferma un rapporto del ricercatore, ben il 96% dei contenuto deepfake erano deepfake porn.

In molti casi i deepfake creati senza consenso vengono diffusi come azione di revenge porn: il contenuto pornografico da diffondere per distruggerti non ce l’ho? Bene, lo creo. Pratiche barbare come queste vengono facilitate se, con una facilità che diventa sempre maggiore, basta selezionare un volto e fare un click per dar vita a un contenuto che – col passare del tempo – risulta fatto sempre meglio e difficilmente distinguibile da quella che è la realtà.

Nelle analisi che conduce – come ha spiegato a Jezbel – Ajder stabilisce la pericolosità dei materiali che scova basandosi su una serie di criteri. Quanto è facile da usare, se l’interfaccia è friendly o meno, quanto è accessibile, quanto tempo ci vuole per realizzare un contenuto. Il punto, purtroppo, è che è sempre più facile e per ogni sito del genere che viene buttato giù, moltissimi altri sono già online.

Come contrastare il fenomeno?

Ripulire il web – emerso e sommerso – da tutto questo è impossibile ma ci sono alcune cose che potremmo fare per rendere il più possibile inaccessibili software in grado di fare cose del genere. Un ruolo ce l’hanno i fornitori di servizi Internet, con gli hosting che potrebbero monitorare e agire al fine di contrastare il fenomeno. Questo comporterebbe – sottolinea il ricercatore – un allineamento da parte di tutte le compagnie coinvolte e una precisa volontà di contrastare il fenomeno.

Impegno non solo contro il revenge porn, quindi, ma anche per scongiurare il fenomeno del materiale pornografico fake creato con un click. Occorre lavorare per rendere questi contenuti il più difficilmente rintracciabili possibile. A livello legale, sono molti gli stati Usa che stanno introducendo leggi che criminalizzano l’utilizzo di pornografia falsa non sensuale. Affermare a tutti gli effetti che si tratta di un crimine e che chi lo commette verrà punito può aiutare nel contrasto del fenomeno.

Iniziamo a parlarne correttamente come abuso di immagine deepfake

Questo è un tipo di riflessione sviluppata anche per il termine revenge porn. L’utilizzo della parola pornografia sembra implicare un consenso che in nessuno dei due casi è presente. Così come le donne che hanno girato materiale intimo con il partner non hanno dato consenso alla diffusione, quelle che si ritrovano protagoniste di deepfake a sfondo sessuale non hanno espresso consenso affinché la loro faccia venisse caricata su quei siti.

Ecco che, allora, diventa fondamentale parlare di abuso di immagine deepfake per sottolineare come si tratta di una forma di molestia sessuale digitale e di un abuso di immagine.