Il caso “Erica Marsh” e i pericoli del rage baiting (anche) “grazie” all’AI

Un profilo Twitter creato nel settembre del 2022. Una lunghissima sequela di tweet in cui venivano estremizzati i concetti delle più classiche battaglie dei Democratici Americani, creando moltissimo dibattito. Questa è la storia di Erica Marsh, una donna che non esiste ma che ha fatto parlare molto di sé negli StatiUniti. “Lei” diceva di aver lavorato come volontaria nella Fondazione Obama e di essere una delle organizzatrici sul campo della campagna elettorale di Joe Biden in vista delle Presidenziali USA del 2024. Si presentava come una giovane, bionda con occhi azzurri, ma quell’immagine di profilo era stata realizzata attraverso strumenti AI.

Erica Marsh, il marketing elettorale con l’AI su Twitter

A svelare il fake è stato il Washington Post che ha scoperto che ha etichettato questa vicenda come il classico tentativo di manipolazione dell’opinione pubblica via social. Questa volta, però, utilizzando anche alcuni strumenti basati sull’intelligenza artificiale. Ancora non è noto chi ci sia dietro quel profilo che ora, dopo l’inchiesta, è stato sospeso da Twitter. Ma aveva la “spunta blu” e questo dettaglio mette in evidenza gli scarsi e inefficaci controlli della piattaforma di Elon Musk sulla verifica degli account. Ma attenzione: probabilmente non si tratta di un profilo “a favore” dei Democratici. Seguendo la dinamica del rage baiting, Erica Marsh sembra essere una “creatura” digitale nata per ottenere il fine contrario: le sue estremizzazioni – e la definizione Woke – sul Black Lives Matter e il diritto all’aborto avevano come obiettivo quello di screditare la sua “figura”, facendola apparire come un’attivista Dem fuori controllo. Dunque, tutto a favore della propaganda Repubblicana.

In questa vicenda, l’intelligenza artificiale ha avuto un ruolo marginale. Però, questa storia deve necessariamente aprire un fronte di riflessione sul come il marketing elettorale possa diventare sempre più invasivo nel prossimi futuro. E con Simone Fontana di Facta News abbiamo parlato di come tutto ciò renda più complesso il lavoro dei Fact-checker.

• L’incredibile storia dell’account virale di “Erica Marsh”
• Chi c’è dietro l’account di Erica Marsh? Tra le ipotesi e i perché
• Twitter ha sospeso l’account di Erica Marsh dopo le domande dei giornalisti, ma è davvero pronto contro l’AI?
• «È la mente umana del marketing elettorale a rendere rischiose le tecnologie basate sull’AI»
• Alla base dell’account di Erica Marsh c’è il “rage baiting”
• Occhio alla disinformazione politica sui social, soprattutto con l’intelligenza artificiale