Le nuove regole di TikTok per i contenuti modificati dalla AI

Il tema dei contenuti generati dai programmi che si basano sull’intelligenza artificiale va di pari passo con le policies delle varie piattaforme social, lo strumento più utilizzato per condividere questi contenuti con il pubblico e con gli altri utenti. Per esempio, l’immagine non reale di Papa Francesco che indossa un piumino bianco in stile “Balenciaga o Moncler” è stata prima pubblicata su un gruppo Facebook (dedicato all’AI Art), per poi ripetere la stessa situazione su Reddit. Ovviamente, anche in base al DSA (Digital Service Act), i social network dovrebbero intervenire per evitare che si generi disinformazione (anche con una sola fotografia), ma diventa difficile avere un controllo repentino e totale, vista l’ampia diffusione di software “text-to-image”. Ma ci sono delle regole, come l’aggiornamento delle policy di TikTok, che possono prevenire la diffusione incontrollate dei cosiddetti “synthetic media”.

LEGGI ANCHE > AI, l’Apparenza che Inganna: le immagini che stanno beffando il mondo

Ad annunciare queste nuove linee guida è stata Julie de Bailliencourt, Global Head of Product Policy di TikTok. Nello specifico, è stato aggiunto un capitolo, all’interno della sezione dedicata all’Integrità e Autenticità, dedicato proprio ai synthetic media che vengono definiti così:

«Si intendono i contenuti creati o modificati dalla tecnologia IA. Include contenuti altamente realistici creati digitalmente (falsi) di persone reali, come ad esempio un video di una persona reale che parla, ma le cui parole sono state modificate o cambiate».

Dunque, si parla di contenuti generati dall’intelligenza artificiale, con riferimenti a persone reali o altri elementi realistici. Non vale solamente per le immagini, ma anche per le “voci”. Insomma, si va a intervenire sui deepfake nella loro totalità.

Regole TikTok synthetic media, le nuove linee guida

Dunque, le regole TikTok synthetic media indicano quali comportamenti (e condivisioni) sono permessi all’interno della piattaforma.

NON sono consentiti

Synthetic media che mostrano scene realistiche che non sono chiaramente segnalate o etichettate nel video;
synthetic media che contengano le sembianze (visive o audio) di una persona reale, tra cui: un giovane, una figura privata adulta e una figura pubblica adulta quando viene utilizzata per appoggi politici o commerciali o se viola qualsiasi altra policy;
materiale che è stato montato, unito o abbinato (ad esempio video e audio) in modo tale da fuorviare le persone su eventi reali.

Sono consentiti

Media sintetici che mostrano un personaggio pubblico in determinati contesti, compresi i contenuti artistici ed educativi, come ad esempio un video che mostra una celebrità che esegue un ballo popolare su TikTok e un personaggio storico presentato in una lezione di storia.

Dunque, al netto delle violazioni sopra indicate, le regole TikTok Synthetic media indicano cosa può e cosa non può essere pubblicato. Ma anche i contenuti considerati “leciti” devono rispettare dei requisiti. Ovvero, occorre che chi condivide un video o una foto generata attraverso l’intelligenza artificiale, dichiari al pubblico la natura di quel contenuto:

«Accogliamo con favore la creatività che la nuova intelligenza artificiale (AI) e le altre tecnologie digitali possono sbloccare. Tuttavia, l’IA può rendere più difficile distinguere tra realtà e finzione, comportando rischi sia sociali che individuali. I supporti sintetici o manipolati che mostrano scene realistiche devono essere chiaramente segnalati. Questo può essere fatto attraverso l’uso di un adesivo o di una didascalia come “sintetico”, “falso”, “non reale” o “alterato”.
Bilanciamo il valore espressivo dei media sintetici con il rischio di danni alle persone. Non sono ammessi supporti sintetici che contengano le sembianze di figure private reali. Pur concedendo maggiore libertà ai personaggi pubblici, non vogliamo che siano oggetto di abusi o che le persone siano fuorviate su questioni politiche o finanziarie. Non permettiamo l’uso di media sintetici di personaggi pubblici se il contenuto viene usato per sponsorizzazioni o se viola qualsiasi altra politica. Ciò include divieti di incitamento all’odio, sfruttamento sessuale e gravi forme di molestie».