Gli abusi dell’AI: il caso delle 20 giovani vittime delle app deepnude

Almendralejo è una cittadina spagnola in cui abitano poco più di 30mila persone. La classica situazione urbanistica in cui tutti conoscono (quasi) tutti. Ma è proprio da questa medio-piccola realtà che arriva una vicenda che sta sconvolgendo l’intero Paese e che rischia di avere ripercussioni anche nel resto del mondo. Circa una ventina di ragazza, tra gli 11 e i 17 anni, hanno visto le proprio fotografie “nude” pubblicate su alcune chat social. Si tratta di immagini generate dall’intelligenza artificiale (deepnude) e a “realizzarle”, secondo l’inchiesta in corso, sono stati sette giovanissimi ragazzi, di età compresa tra i 12 e i 14 anni.

Deepnude e AI, il caso delle venti giovani vittime spagnole

Il problema di questa app deepnude è stato sollevato proprio dalle vittime che, nel corso dei primi giorni di scuola, sono tornate a casa e hanno raccontato ai loro genitori cosa è accaduto. In alcuni casi, le vittime sono state anche contattate da altri giovani che hanno chiesto loro dei soldi in cambio della non pubblicazione e diffusione di quelle immagini. Foto non reali, generate da quel lato oscuro dell’AI che ancora non sembra esser stato regolamentato (se non con iniziative locali ed estemporanee).

Questa vicenda ricorda molto da vicino il caso Bikinioff, su cui è intervenuto anche il Garante Privacy italiano. E una legge spagnola, approvata lo scorso anno, consente all’omologo iberico di poter procedere con un’istruttoria senza dover attendere le denunce delle vittime. Il fatto che i “carnefici” di questa storia sono minorenni, mitiga i rischi per loro (la maggior parte non è imputabile, avendo un’età inferiore ai 14 anni). Ed è qui che si ripropone la questione fondamentale: occorre mettere paletti ben precisi all’AI. Dal suo sviluppo al suo utilizzo. Fino ad arrivare alla sextortion.

• La storia delle vittime dell’app deepnude che sta sconvolgendo la Spagna
• La madre di una delle vittime, ginecologa e divulgatrice su Instagram, sensibilizza gli utenti sul tema
• L’app che è stata presumibilmente usata per i deepnude spagnoli è sotto accusa, a partire dal suo slogan
• La legge spagnola del “solo sì es sì” che consente al Garante Privacy di intervenire senza denuncia
• Il caso di sextortion in Spagna dimostra quanto sia facile farlo anche per un minorenne
• Anche il Garante della privacy italiano aveva agito contro le app di deep nude: cosa è successo nel frattempo?