Una mamma usa video deepfake per «aiutare» la figlia a entrare nelle cheerleader

La tecnologia utilizzata nella maniera più deteriore. Una donna di 50 anni è arrivata a inviare dei video deep fake su minori all’allenatore del team di cheerleader Victory Vipers per gettare discredito sulle compagne di squadra e assicurare il posto in squadra alla propria figlia. Un gesto sconsiderato che, adesso, in seguito all’identificazione della donna come effettiva mittente di questi video falsi, è costato alla donna un’accusa per molestie informatiche su minori e altri reati collegati.

LEGGI ANCHE > Intelligenza artificiale e bufale: 3 tecniche per riconoscere un deepfake video

Deep fake su minori, la vicenda a Bucks County

La mamma si chiama Raffaela Spone. Ha deciso, deliberatamente, di inviare da un’utenza telefonica anonima una serie di video all’allenatore della squadra di cheerleader che ritraevano le ragazze vittime di questo suo comportamento mentre fumavano, bevevano o erano nude. Ovviamente, i video non erano mai stati girati, ma erano stati ottenuti attraverso la tecnica di intelligenza artificiale conosciuta come deep-fake.

Si tratta di una tecnologia di cui vi abbiamo spesso parlato: si riescono a sovrapporre due o più video esistenti con un altro video con immagini originali. Immaginate una situazione di un film, ad esempio, e considerate che in una scena qualsiasi è possibile chiaramente inserire un vostro parente o conoscente. Il tutto avviene attraverso un processo di intelligenza artificiale che, in pratica, è stato sintetizzato ultimamente anche su alcune applicazioni di facile impiego da parte degli utenti (ad esempio, Fake App). Questo permette anche a chi non abbia particolari conoscenze informatiche di realizzare video deep fake abbastanza credibili.

Per questo motivo, la donna – con lo scopo di favorire l’ingresso in squadra di sua figlia – ha inviato video di questo genere (utilizzando situazioni non adatte a minori, come contesti di nudo, fumo, alcol) sia all’allenatore, sia alle vittime di deep-fake, utilizzando anche messaggi intimidatori d’accompagnamento. La polizia di Hilltown Township ha raccolto una denuncia sporta dal genitore di una delle vittime a partire dallo scorso mese di luglio. Le forze dell’ordine hanno incrociato i dati e sono riusciti a risalire all’IP dell’utente che aveva inviato i video: Raffaela Spone, ora, dovrà partecipare a un’udienza preliminare sul suo caso il prossimo 30 marzo.