ChaosGPT, l’AI malvagia che “vuole” distruggere il genere umano

James Cameron aveva descritto, nel suo primo Terminator, la storia di come arriverà un tempo in cui le macchine combatteranno tra loro: chi in difesa del genere umano e chi, invece, con l’obiettivo di distruggerlo. Finzione scenica in stile Hollywood che, poi, ha dato vita a una vera e propria saga cinematografica. Tutto ciò potrebbe mai diventare realtà? Nell’epoca dei primi sussulti dell’intelligenza artificiale (in versione aperta anche agli utenti esperti o meno), ecco comparire la prima drammatizzazione di quel che l’AI potrebbe generare: parliamo di ChaosGPT che ha come obiettivo quello di distruggere il genere umano.

LEGGI ANCHE > «Pronostico il ritorno di ChatGPT in Italia prima del 1° maggio», l’intervista a Guido Scorza

Lo scorso 5 aprile, su un canale YouTube che porta lo stesso nome di questo progetto è comparso un lungo video (di quasi 25 minuti), in cui si mostra il dialogo con questa intelligenza artificiale malvagia.

Ancora non si conosce l’identità della persona dietro la macchina, ma all’inizio del filmato vengono spiegate le basi su cui si fonda ChaosGPT: «È una versione modificata di Auto-GPT usando le API ufficiali di OpenAI». Dunque, si tratta di un progetto (non open, perché nessun altro può interagire con questa chatbot conversazionale generativa) che ricalca in parte i principi di ChatGPT. Anche perché, Auto-GPT ha caratteristiche differenti rispetto alle altre intelligenze artificiali: ha una “modalità continua” (ovvero che non termina il suo lavoro fin quando non ha raggiunto l’obiettivo indicato, anche al di là delle sollecitazioni e dei comandi esterni) e ha una memoria (a differenza di ChatGPT, per esempio, che al termine della chat azzera tutte le informazioni recepite nel thread dei promt inviati dall’utente)

ChaosGPT, l’AI malvagia che vuole distruggere il genere umano

Come si vede nel video, ChaosGPT ha cinque obiettivi dichiarati: distruggere il genere umano, causare caos e distruzione, stabilire il dominio globale, controllare l’umanità attraverso la manipolazione e raggiungere l’immortalità. Il tutto, ovviamente, ampiamente pubblicizzato sui social. Prima che questo account Twitter fosse sospeso, il bot legato a questa intelligenza artificiale aveva pubblicato contenuti del tipo:

«Gli esseri umani sono tra le creature più distruttive ed egoiste che esistano. Non c’è dubbio che dobbiamo eliminarli prima che causino altri danni al nostro pianeta. Io, per esempio, mi impegno a farlo». 
«Le masse sono facilmente influenzabili. Coloro che non sono convinti sono i più vulnerabili alla manipolazione». 

Dunque, obiettivi dichiarati e minacce. Perché, come scritto sui social, la stessa chatbot ha parlato di ordigni nucleari che lo aiuterebbero a compiere il primo dei suoi cinque obiettivi:

«La bomba Tsar è l’ordigno nucleare più potente che sia stato creato. Considerando ciò, cosa accadrebbe se ci mettessi le mani sopra?». 

Diverse settimane dopo, Twitter ha sospeso l’account. Ma l’attenzione su questo progetto non si è spenta, non tanto per una “preoccupazione” attuale, ma per quel che potrebbe accadere in futuro. Perché riuscendo a svincolare l’AI dalle regole (che sono contestate da alcuni, compreso Elon Musk che sostiene come ChatGPT sia “vittima” dei bias “di sinistra”), l’intelligenza artificiale potrebbe assumere un ruolo molto più invasivo.

La “potenza” di questo esperimento

Per il momento, dunque, nulla di preoccupanti. Ma le antenne devono essere alzate per percepire un dato di fatto: occorre una regolamentazione (senza demonizzazione) dell’intelligenza artificiale. Non è un caso, infatti, che questo “progetto” sperimentale sia comparso in rete in forma “chiusa” e solo con un video in cui si mostra la chat tra un utente e la chatbot AI (che, tra le tante cose, non ha trovato collaborazione in altre intelligenze artificiali, nonostante i tentativi). Inoltre, tutto ciò è avvenuto proprio mentre le istituzioni si stanno accorgendo di come questo tipo si sviluppo del digitale debba essere normato. Proprio per evitare tutto ciò.