Gli adv sessualmente espliciti generati con AI trovano spazio su Instagram, TikTok e Facebook

Si tratta di un doppio standard evidente: le app che generano immagini AI porno stanno diffondendo una serie di contenuti – annunci pubblicitari, nello specifico – su Instagram e TikTok. La stessa pratica, se compiuta da sex worker, viene quasi sempre impedita da quegli stessi social. Spesso e volentieri – e ne abbiamo parlato anche con esperti di settore come Violeta Benini (Divulvatrice su Instagram) – anche per fare divulgazione su tematiche legate all’educazione sessuale occorre trovare degli escamotage per non essere penalizzati dagli algoritmi e dalla moderazione. Questo non vale, secondo quanto emerso ultimamente, per i contenuti sessuali generati con l’intelligenza artificiale.

LEGGI ANCHE >>> «Mostrare sex toys e contenuti espliciti su Instagram? Dipende da come lo fai»

Gli annunci per le immagini AI porno non vengono moderati sui social

Quello stretto controllo che è sempre valso per le persone che portavano contenuti sessualmente più o meno espliciti sui social – dai sex worker ai venditori di prodotti sessuali, passando per i divulgatori – ma sembra non valere, ora, per i chatbot che pubblicizzano applicazioni AI per generare la stessa tipologia di contenuti. Questi ultimi, infatti, sembrano riuscire ad aggirare i sistemi di moderazione.

Di che tipologia di annunci si tratta? Sia su TikTok che sulle piattaforme di Meta, Facebook e Instagram, decine di startup hanno iniziato a pubblicare annunci espliciti che promettono foto NSFW (che sta per Not Safe For Work, ovvero foto che sarebbe meglio non visualizzare a lavoro), pin-up personalizzate e chat prive di censura così come fidanzate virtuali, prosperose e vestite attillate. Ci sono anche foto di ragazze create digitalmente che, a volte, ricalcano lo stile degli anime e che sono sempre molto giovani.

A individuare decine e decine di contenuti di questo tipo sui vari social è stato NBC, non riuscendo però a fornire dati sulla portata della diffusione di questi annunci poiché negli Stati Uniti questi dati non sono soggetti alla stessa trasparenza che deve essere garantita nell’Unione europea. NBC ha contattato tutte le piattaforme scoprendo che alcuni annunci erano stati rimossi prima ma, come è evidente, la rimozione non è stata applicata a tutti quelli presenti (che sono e rimangono online anche da settimane).

Il doppio standard delle app AI che generano contenuti erotici

Questo è solo uno dei tanti ambiti di sviluppo delle tecnologie AI. Alcuni ricercatori stanno cominciando a sottolineare come, effettivamente, ci sia un doppio standard che – in questo caso – va a danneggiare i sex workers: «Alle lavoratrici del sesso non è permesso fare soldi con la loro immagine, ma a qualche broker tecnologico che sta creando un’immagine di IA simile sì», ha detto Carolina Are, ricercatrice presso la Northumbria University e presso il Centre for Digital Citizens del Regno Unito.

In questo fenomeno la ricercatrice evidenzia anche una componente sessista. Gli annunci, che di solito promuovono solo personaggi femminili sessualizzati, sono permessi perché rivolti a un pubblico maschie. Non ci sono dati su quali annunci sono stati rimossi ma, effettuando una ricerca, sono molti di più i risultati relativi a una fidanzata virtuale rispetto a quelli dati cercando un fidanzato virtuale.

Sia Meta che TikTok hanno intensificato la procedura di rimozione di questa tipologia di annuncio dopo essere stati contattati ma, alla fine della fiera, non hanno voluto chiarire come tutti questi adv siano riusciti a superare la moderazione. Lato Meta, l’azienda ha dichiarato che il divieto di pubblicazione di contenuti per adulti vale sia per quelli di natura umana che per quelli creati dall’intelligenza artificiale: «Le nostre politiche e la nostra applicazione sono state progettate per adattarsi a questo spazio altamente conflittuale e stiamo monitorando attivamente qualsiasi nuova tendenza dei contenuti generati dall’IA». TikTok ha affermato la stessa cosa, informando la testata di aver rimosso tutti quelli segnalati.