I sofisti del nostro tempo

Il linguaggio della disumanizzazione, il silenzio come resistenza e la «psicosi da intelligenza artificiale»

C’è un’antica querelle che attraversa tutta questa conversazione: quella tra i sofisti, maestri della parola che persuade, e Socrate, per cui la parola serve a cercare la verità nel confronto con l’altro. Irene Lo Faro, dottoranda in Germania, dove studia il linguaggio della disumanizzazione, la memoria dell’Olocausto e i meccanismi della propaganda la riporta al presente. Perché i “sofisti del nostro tempo” sono la propaganda populista che costruisce un noi contro un loro, ma anche il modo spettacolarizzato in cui parliamo di tutto, IA compresa.

La ricerca all’estero, il coinvolgimento emotivo e il linguaggio della disumanizzazione

Partiamo dall’inizio: cosa ti ha portato a fare ricerca fuori dal nostro Paese?

La necessità. La Germania, dove mi trovo ora, mi offre cose che l’Italia non offre ai suoi dottorandi. Nel lavoro accademico è quasi imprescindibile fare un periodo di ricerca all’estero: devi inserirti in un discorso internazionale, e va benissimo così. Ma il dottorato che sto facendo qui mi dà, oltre a quella prospettiva internazionale che arricchisce il curriculum, anche la possibilità di insegnare — cosa che ai dottorandi in Italia non è permessa. Sono crediti di insegnamento che mi rendono molto più competitiva. E poi c’è uno stipendio onesto, con cui si può vivere: un’altra cosa che in Italia non sarebbe successa.

Ho avuto anche fortuna, ed è successo tutto in modo naturale: ero venuta qui per un periodo della magistrale, grazie a un doppio diploma, e così ho conosciuto quella che oggi è la mia relatrice, che mi ha offerto il posto. Rispetto a dover preparare da zero una proposta di dottorato in Italia, mi hanno semplicemente offerto il lavoro e ho scelto questo. Detto ciò, l’Italia mi manca tantissimo: non passa giorno.

Tu studi spesso il linguaggio della disumanizzazione, tutta quella parte storica pesante e schiacciante. Come fai a non farti coinvolgere, ad affrontarla in modo più oggettivo, da studiosa?

Al contrario, io mi coinvolgo tantissimo. È una cosa che schiaccia, ed è giusto che sia così. Essere coinvolti emotivamente non vuol dire non affrontare la questione con oggettività, non essere in grado di fare un lavoro scientifico: anzi, significa mantenere l’umanità, ricordarsi che lavoro si sta facendo.

Per fortuna non tratto l’Olocausto ogni giorno: è uno dei temi che affronto, ma lo intervallo con altro. Quando scrivevo la tesi e ci lavoravo tutti i giorni, stavo male, malissimo: non riesco a leggere le testimonianze e i documenti restando tranquilla, e poi andare a dormire serena. Ci piango. Ho pianto tantissimo scrivendo la tesi, ma è giusto così. È giusto riconoscere che il mio non è solo un vezzo intellettuale: ci sono effetti reali sulle persone, che hanno delle storie. Ce ne dimentichiamo, studiando come nella vita.

Trovo corretto che la materia resti viva, che ci colpisca. Lo considero un dovere: studiare sempre di più, sapere il più possibile per poi trasmettere, perché stiamo arrivando a un tempo in cui i sopravvissuti non ci sono quasi più, e toccherà a qualcun altro portare avanti la storia. E lo si può fare solo conoscendola. Non vale il “non guardo queste immagini perché sono troppo violente”. Certo che sono violente, certo che sono tremende da guardare, ma è successo — ed è successo a delle persone, in prima persona. Il minimo che possiamo fare, e questo vale per tutto, non solo per l’Olocausto, è vedere e renderci conto.

A proposito di questo: oggi noti un rischio di deriva, un parallelismo tra il linguaggio di allora e le meccaniche della propaganda populista contemporanea. Cosa trovi che sia identico?

I contenuti cambiano leggermente, ma la forma è sempre la stessa. La struttura è sempre la stessa. C’è la creazione di una comunità, l’appello a un noi: noi italiani, noi cristiani, noi uomini, noi donne. Un noi forte, spesso legittimato da un passato mitico — “il grande popolo italiano, erede di Roma” — anche se poi cosa abbiamo davvero in comune non si sa. È un noi che deve essere importante per la persona, e per questo fa appello all’emozione, non alla ragione.

Poi c’è la creazione di un loro, diverso, senza alcun modo in cui i due gruppi possano assomigliarsi. Da sempre si mina l’empatia verso il loro: prima rappresentandolo come diverso, poi come inferiore. E qui c’è il risvolto più tremendo, perché a un certo punto verrebbe da dire “alla fine siamo tutti esseri umani” — e allora la differenza deve essere resa tale che non ci si possa più riconoscere nell’altro. L’altro non è più umano: è animale, è cosa. Lo erano gli ebrei nella propaganda nazista, lo erano i tutsi in Rwanda, chiamati “scarafaggi”; lo sono gli illegal aliens in America, chiamati aliens non a caso, perché gli aliens non sono umani.

Il potere del silenzio: resistenza e manipolazione

Quando parli di silenzi, c’è un silenzio che ti ha colpita, nella tua vita personale o professionale, e che ti ha fatto riflettere?

Più che un silenzio in sé, da piccola mi colpì una frase di Alda Merini: “Mi piace chi sceglie con cura le parole da non dire”. È rimasta con me a lungo. Poi mi è capitato di leggere Il silenzio del mare, un libro molto breve scritto da un francese, Vercors, sotto falso nome, durante l’occupazione nazista. Racconta, in modo quasi autobiografico, di come l’autore abbia dovuto ospitare un ufficiale nazista in casa propria: l’ufficiale, la sera, veniva in soggiorno e faceva i suoi monologhi, ma l’autore non gli parlava mai, non rispondeva mai. E l’atto di resistenza era proprio quel silenzio.

Da lì si è aperto tutto: quante caratteristiche diverse può avere il silenzio, cosa può fare. Quello è un silenzio attivissimo, una resistenza che non è violenta, non fa scoppiare la bomba sotto il camion, ma è comunque efficace.

C’è però l’altra faccia della medaglia, perché resistenza è anche attacco. Leggendo esempi di propaganda di ieri e di oggi, si trova un uso strategico del silenzio, secondo me pericolosissimo: quello del manifesto che ti dice fino a un certo punto e poi lascia al lettore il compito di riempire il vuoto, di fill the gap. Mi viene in mente un poster dell’AfD, qui in Germania, che ho visto passando per strada: diceva soltanto “Lo vedi anche tu, no?”. Cosa vedi? Non lo dice. Più efficace di così è impossibile, perché ognuno vede quello che vuole vedere.

Ed è pericolosissimo. Quando un messaggio ci arriva da fuori, lo sottoponiamo a un esame rigoroso: è una notizia esterna, dobbiamo decidere se è vera o falsa. Ma quando qualcosa viene da dentro, quando lo sentiamo come un nostro pensiero, siamo pessimi giudici di noi stessi. Il silenzio, in questi casi, è un’arma potentissima, perché distrugge la linea tra chi riceve la propaganda e chi la promuove: non è più chiaro di chi sia l’idea, quanto di tuo ci hai messo. E così ci credi molto di più.

La lingua pubblica e la consapevolezza perduta

Al di là della politica, la lingua pubblica italiana ti sembra più malata o più consapevole rispetto anche solo agli anni Novanta?

A me sembra che i parlanti siano meno consapevoli. Non so se meno competenti; sicuramente inconsapevoli. C’è molta superficialità nell’uso dei termini, come se non avesse importanza parlare, parlare bene, pensare a quello che si dice. Viene da chiedersi che significato abbiano ormai parole come woke, fascista, comunista.

Se in un comunicato ufficiale scrivo in italiano scorretto — “in flagranza di reato” storpiato, per dire — cosa dice questo di me? Una superficialità che equivale a dire che il linguaggio non è importante, che non conta quello che si dice. Attenzione: scegliere un registro più basso, più accessibile, è un’altra cosa. C’era anche in passato — la lingua del Terzo Reich era popolareggiante, doveva prendere termini bassi per essere comprensibile a tutti — ma resta comunque una scelta consapevole, e semplificare troppo impoverisce solo un po’ la lingua.

Quello che sta succedendo oggi, secondo me, è diverso: non è scegliere parole più semplici, è spogliare la lingua pubblica dei suoi significati pubblici, sostituendoli con significati personali, costruiti ad hoc. Mi sembra che ognuno parli la propria lingua. E se ognuno parla la propria lingua, il risultato è che non ci si capisce più.

Cosa consiglieresti oggi a chi legge notizie, per difendersi da questa superficialità?

Di capire cosa dice la notizia, non cosa mi suscita. Posso essere indignata, arrabbiata, spaventata, angosciata — ma chi ha scritto quella notizia cosa voleva provocare? Voleva farmi paura? Perché? Oppure voleva semplicemente dare la notizia, e la mia paura è solo una mia reazione? Dare la notizia di una tragedia in Nepal è una cosa; costruire un discorso mirato a produrre un’emozione è un’altra. Non è un male in sé — è un modo di comunicare — ma bisogna esserne consapevoli. E questa consapevolezza manca, sia in chi parla sia in chi ascolta.

Si sta perdendo il concetto stesso di notizia: sembra che debba essere per forza una grande notizia, spettacolare, perché solo così suscita un’emozione o anche solo un po’ di interesse. Forse dovremmo essere più interessati alla banalità, più contenti di accettare che non tutto deve essere spettacolare. È uno scalino enorme, non so se riusciremo ad affrontarlo.

C’è un argomento che vorresti entrasse nel dibattito pubblico e che ancora non c’è?

Mi piacerebbe che il dibattito pubblico tornasse a essere un dibattito. Che si parli, si discuta, e che si insegni cosa sia un dibattito. Come diceva Socrate, è attraverso il dialogo che si arriva alla verità: non da soli, ma nel confronto con gli altri.

È una cosa che, in gran parte, esiste ancora nell’ambiente accademico — il confronto con i colleghi, il paragone, che in teoria mira sempre a un arricchimento, a una verità più vera. Nel dibattito pubblico, invece, manca completamente: la preoccupazione per la verità è di secondaria importanza. Faccio fatica persino a seguirlo — quei dibattiti televisivi li trovo sterili, fastidiosissimi. Resto sempre perplessa e demoralizzata nel vedere che tutto si riduce all’attacco all’altro, al personalismo. Mi piacerebbe mostrare che è possibile un confronto con l’altro senza doverlo per forza vincere. È questa la democrazia: abbiamo due idee diverse, e va bene così. Perché dovrei insultarti? Per me sono cose assurde.

L’intelligenza artificiale, la centralità dell’uomo e l’ottimismo

Mi sono appassionata al video in cui commenti l’intervento di Barbero, sostenendo che l’IA non “mente”, perché dietro l’atto del mentire c’è un’intenzione umana. Forse “mentire” non è il verbo adatto: si potrebbe dire che è progettata per mistificare la realtà, il che non implica una sua intenzione, ma semmai una scelta di chi la programma. Era un discorso puramente di linguaggio, o qualcosa di più ampio?

Intanto una precisazione necessaria: io ho riportato diverse posizioni della comunità scientifica, e ci sono articoli che trattano il fenomeno con molte più argomentazioni delle mie. Il mio è principalmente un interesse linguistico: come parliamo dell’intelligenza artificiale, perché il modo in cui ne parliamo ha conseguenze sul modo in cui la pensiamo.

Il problema del dire “ChatGPT mente” è che presuppone che l’algoritmo — quella serie di numeri progettati per pescare un token dato un altro token in input — capisca ciò che abbiamo scritto, sappia discernere tra vero e falso, e poi decida intenzionalmente di non riportare la verità. È un discorso assurdo, ma è esattamente ciò che rinforza la cosiddetta AI psychosis, la psicosi da intelligenza artificiale: siamo spaventati, “ci uccideranno tutti”, i robot si ribelleranno. Certo che fa paura, se ne parliamo in questi termini. E le conseguenze si vedono, perché i casi aumentano: attribuiamo alla macchina intenzioni e capacità che non ha — la macchina è progettata, non può avere un’intenzione — e così le diamo un potere, delegando a un’altra entità le nostre responsabilità.

Ho letto sulla BBC di una ragazza che ha perso l’aereo perché si era fidata di informazioni sbagliate date da ChatGPT; o di ragazzi che avrebbero tentato o commesso il suicidio “consigliati” da ChatGPT. E allora la colpa sarebbe di ChatGPT, che “capisce”, “consiglia”, “cerca di ucciderti”. Ma è come dire che il coltello in cucina si rivolta da solo. È un discorso che a me pare banale, e capisco che non lo sia per tanti solo perché nessuno ha davvero spiegato come funzionano queste macchine. Certo che qualcuno, a monte — Anthropic, OpenAI, tutte queste aziende — progetta i chatbot con un certo obiettivo e in un certo modo, perché producano un certo output. La responsabilità sta sempre lì, nei programmatori. Ma anche in noi: se prendo il tostapane mentre faccio il bagno e lo butto nell’acqua, sarà colpa del tostapane o mia? Manca l’istruzione all’uso dell’intelligenza artificiale, e stiamo delegando anche quella: “non è colpa nostra, è colpa di ChatGPT”.

Una responsabilità nostra, in qualche modo, c’è: è un po’ come la dipendenza dallo scroll dei social. Sono strumenti che tendono a creare dipendenza, e ormai c’è chi si muove solo chiedendo cose a ChatGPT. Rischiamo di deumanizzare la nostra dimensione più profonda, quella del discernere, dell’essere autonomi e responsabili. Però continuo ad avere speranza che ci siano persone come te, capaci di riportarci alla bellezza dell’essere umano, che è la nostra intelligenza e il nostro saperci emozionare, filtrandolo con la ragione.

Anch’io sono ottimista, altrimenti me ne starei a casa a fare le mie cose senza condividere nulla. Mi piace pensare che, di fronte a questa tecnica che non prende il controllo ma viene messa al centro — al posto della persona che la usa — siamo arrivati a un punto massimo. Crescerà forse ancora un po’, ma alla fine è l’uomo che può premere il pulsante e spegnere la macchina.

Credo che di fronte a questo capovolgimento di priorità, per cui l’uomo si mette da solo al secondo posto rispetto alla macchina, ci sarà un ribaltamento. L’uomo — notoriamente egocentrico — dirà “no, sono io al centro”, e tornerà al centro, come torneranno le materie umanistiche. Perché sta perdendo coscienza di cosa sia, e deve riscoprirlo. Ho tanta fiducia nelle discipline umanistiche e in un ritorno della filosofia: non per sapere di più o di meno, ma perché da sempre l’uomo si scontra con la domanda “che cosa sono, cosa faccio, perché esisto”. Sono state date tante risposte diverse nei secoli; di fronte a questa nuova crisi dell’essere umano, c’è bisogno di rifarsi la domanda e di trovare risposte nuove. E a farlo può essere la filosofia.

Ne esce un discorso che tiene insieme il coinvolgimento emotivo di chi studia le pagine più buie del Novecento, il valore del silenzio come atto di resistenza e come arma di manipolazione e un invito a smettere di attribuire intenzioni a una macchina che non ne ha. Siamo ancora capaci di un dibattito che cerchi la verità, o solo di vincere sull’altro?