L’incredibile storia dell’account virale di “Erica Marsh”

Un nome che riprende quello di uno dei personaggi della seconda stagione di una famosa serie televisiva (One Three Hill). Le fattezze estetiche che ricordano proprio quelle incarnate dall’attrice che l’ha interpretato. Questa è la base utilizzata da uno dei profili Twitter diventati virali nel corso degli ultimi mesi negli Stati Uniti, presentandosi come una delle principali voci liberali a sostegno dei Democratici Americani. Tutto ciò risponde al nome di Erica Marsh che, però, sembra avere tutte le fattezze di un bot generato attraverso l’intelligenza artificiale, nonostante la spunta blu ottenuta (ovviamente a pagamento) sulla piattaforma social guidata da Elon Musk. Giornalettismo, nel suo monografico di oggi, approfondirà questa vicenda paradossale e potenzialmente molto rischiosa in vista di tutte le prossime tornate elettorali.

LEGGI ANCHE > Quali sono i punti salienti dall’AI Act

Un profilo Twitter creato nel settembre dello scorso anno e che, ogni giorno, commentava i principali accadimenti politici statunitensi, conditi esasperando le battaglie dei Democratici. Una voce liberal che nel giro di otto mesi ha conquistato l’attenzione di oltre 130mila follower, con attacchi – a tratti sguaiati – rivolti direttamente al mondo Repubblicano: da Donald Trump a Ron De Santis, passando per tutti i personaggi che appoggiano le posizioni ideologico-politiche dei due principali candidati nella corsa alla Casa Bianca del 2024. Inoltre, si “vantava” del suo passato come ex-volontaria della Fondazione Obama e di essere una delle organizzatrici sul campo della campagna elettorale di Joe Biden in vista del voto del 5 novembre del prossimo anno. I suoi mantra erano il “Black Lives Matter” e le campagne in favore del diritto all’aborto. Perché ne parliamo al passato? Perché ora il profilo Twitter di Erica Marsh (@ericareport) è stato sospeso e la sua unica traccia rimasta in rete – al netto delle discussioni social e degli articoli dedicati a “lei” – è il suo account su TikTok in cui (di rado) condivideva esclusivamente alcuni suoi tweet.

Erica Marsh, la storia del profilo bot liberal

Tutto ciò, però, era falso. Questo è il risultato finale di un’indagine condotta dal Washington Post che, incuriosito dall’esponenziale successo – seguendo il principio del rage baiting – di questa “personalità”, ha deciso di scavare a fondo. Innanzitutto, il suo nome non compare in nessun registro telefonico. Poi, gli organizzatori della campagna elettorale per le Presidenziali di Joe Biden e la Fondazione Obama non hanno la più pallida idea di chi sia. Tre indizi che fanno una prova? Forse, ma per avere certezze si è andati oltre partendo dalle diverse immagini utilizzate dalla “giovane donna” su Twitter. In particolare, l’attenzione si è spostata su tre foto.

Stesso sorriso, stessi dettagli. Cambiano solamente sfondo e inclinazione. Da qui il Washington Post è arrivato alla conclusione: l’immagine è stata creata con l’intelligenza artificiale. E Giornalettismo ha trovato conferma utilizzando uno strumento di analisi delle foto, un progetto Open Source di Microsoft – sviluppato in collaborazione con i ricercatori dell’Università del Wisconsin-Madison e della Columbia University – che consente (sempre attraverso l’AI) di effettuare una scansione dei dettagli. Si chiama LLaVA (acronimo di Large Language and Vision Assistant) e inserendo la foto profilo di Erica Marsh abbiamo ricevuto questa risposta:

«Sì, l’immagine è un ritratto di una donna generato dall’intelligenza artificiale. L’aspetto insolito di questa immagine è che è un composto di due diversi, con la metà superiore che rappresenta una bellissima giovane donna bionda con un vestito rosso e la metà inferiore che mostra una donna diversa, forse di età diversa o con un aspetto diverso». 

Un altro indizio che risponde all’analisi iniziale: questo account, almeno la fotografia, è stata generata attraverso uno dei modelli generativi (a livello visuale, un text-to-image) basati sull’intelligenza artificiale. Dunque, almeno la base del profilo e falsa.

Chi c’è dietro?

Dunque, l’analisi si è spostata sull’essere umano che ha dato vita a tutto. Innanzitutto, occorre sottolineare un aspetto: quasi tutti i suoi tweet estremizzavano – anche in chiave molto banale – i grandi temi al centro dei dibattiti tra Democratici e Repubblicani, andando a incarnare una sorta di “parodia” della persona iper-liberal. Un sistema che ha permesso a Erica Marsh – o chi per “lei” – di far crescere la veemenza del dibattito americano, incarnando al meglio la dinamica di “marketing” del “rage baiting“, ovvero il gettare benzina dialettica sul fuoco. E per alcuni mesi, sul suo profilo Twitter compariva un collegamento a un account Venmo, per consentire a chiunque di inviarle denaro.

Ma chi c’è dietro? Innanzitutto, questa dinamica sembra essere legata all’universo Repubblicano. Proviamo a spiegare: far apparire Erica Marsh e le sue esasperazioni Liberal-Democratiche come un punto di riferimento del mondo Democratico a sostegno di Joe Biden, non fa altro che alimentare un dibattito distruttivo (e non costruttivo) in favore dei Repubblicani. Dunque, chi ha realizzato – non sappiamo se anche i tweet fossero generati da un chatbot AI “comandato” attraverso appositi prompt e “temperatura” basati sui principali princìpi Democratici – questo profilo aveva ben in mente il suo obiettivo finale: far passare “Erica Marsh” come una fanatica integralista (e priva di “contatto” con il mondo reale) come l’incarnazione del modello Democratico americano. E chi può aver fatto tutto questo? Per il momento si parla di una società di consulenza belga che si occupa di marketing e “social selling”. L’attenzione è andata lì perché l’immagine di Erica Marsh è stata rinvenuta all’interno del database di quella agenzia. Ma chi è a capo di quella società non ha ancora risposto a chi lo “ha accusato”, limitandosi a bloccare alcuni account senza fornire la sua versione dei fatti.