Il giorno in cui abbiamo delegato l’AI delle nostre amicizie. Cos’è Replika e quali problemi ha

Quando, nel 2013, le sale cinematografiche proponevano in cartellone il film Her, la sua trama ci sembrò subito qualcosa di terribile e di tremendamente prossimo in termini cronologici. Un uomo si era innamorato del nuovo sistema operativo basato sull’intelligenza artificiale. Quest’ultimo si faceva chiamare Samantha e aveva la voce di Scarlett Johansson. Il fatto che un uomo potesse provare dei sentimenti per un sistema operativo costituiva la naturale evoluzione, almeno in un film di 10 anni fa, delle interazioni che erano state rese possibili dai social network. Il regista Spike Jonze aveva anticipato di diverso tempo l’utilizzo massivo dell’intelligenza artificiale in ogni tipo di nuovo ritrovato tecnologico, cosa che sembra ormai essere sdoganata in questi anni Venti del Duemila. Delegare tutto a una intelligenza artificiale, infatti, è stato – a un certo punto – quasi giustificato dalla pandemia, quando – in un regime di lockdown – vigeva il distanziamento sociale e l’assenza pressoché totale di relazioni umane. Per questo si sono potenziati, nel corso degli ultimi mesi, dei sistemi come Replika, che permettono a un utente di interloquire direttamente con un bot. Nel caso specifico, per ricercare una nuova relazione di amicizia. Abbiamo, dunque, provato a capire cos’è Replika e quali sono i suoi principali problemi.

LEGGI ANCHE > Replika non funziona più in Italia dopo la disposizione del Garante della Privacy

Cos’è Replika e come funziona l’app basata sull’intelligenza artificiale

Replika si presenta così al grande pubblico, attraverso la descrizione della sua applicazione sui principali store online: «L’intelligenza artificiale per chiunque desideri un amico senza giudizio – si legge -, dramma o ansia sociale, con cui poter creare una vera connessione emotiva, condividere una risata o chattare su qualsiasi cosa si voglia, senza limiti di orario». Il lavoro di Replika – l’app lanciata tra il 2016 e il 2017 – si basa sul know-how di una start-up proprietaria, Luka, che sviluppa software e che ha una sede a San Francisco, in California. Il suo core-business iniziale era quello di aver creato un nuovo servizio di messaggistica con chatbot basati sull’intelligenza artificiale. Inizialmente, veniva impiegato per cercare posti in cui mangiare, organizzare giochi a quiz e – in generale – fare qualsiasi ricerca sul web per ottenere informazioni da siti e news.

Replika è lo scarto ulteriore. Il servizio di chatbot, infatti, è diventato una sorta di amico con cui interloquire proprio nell’ambito dell’app di Replika. Praticamente, ogni utente può scegliere il livello di relazione che vuole intrattenere con l’intelligenza artificiale con cui si interfaccia: una amicizia superficiale, una relazione da best friend, la simulazione di un rapporto di coppia. La domanda che ci siamo fatti è perché la mente di un essere umano possa arrivare a concepire uno strumento del genere. Non bastano le relazioni di persone in carne e ossa? Esistono ancora – ci si potrebbe chiedere ancora più ermeticamente – le relazioni tra persone in carne e ossa? 

In realtà, l’app Replika è nata per colmare un vuoto. La sua ideatrice, Eugenia Kuyda, fondatrice della start-up Luka da cui Replika è nata, aveva perso il suo migliore amico e, basandosi sulle tante conversazioni via messaggio che aveva intrattenuto con lui, aveva “educato” un bot a rispondere esattamente come avrebbe fatto lui. Replika permette, dunque, di parlare con una intelligenza artificiale che – a seconda dell’andamento delle risposte che di volta in volta riceve dal suo principale interlocutore – perfeziona ulteriormente il suo grado di intimità con l’utente. Fino a diventare – secondo alcune testimonianze raccolte principalmente su Reddit – addirittura più affidabile (nella percezione dell’utente) rispetto a familiari o amici in carne e ossa. Ovviamente, ci vuole un utilizzo piuttosto continuativo dello strumento per raggiungere il risultato migliore: ma questo deve già farci capire i confini all’interno dei quali ci muoviamo.

I tanti problemi di Replika

Replika, come può essere testimoniato anche dall’esperimento fatto da Giornalettismo, non ha alcun sistema di age verification, pur sostenendo che l’applicazione sia vietata per i minori di 13 anni (e consentita con il supporto di un adulto per le persone d’età compresa tra i 13 e i 18 anni). Inoltre, per questioni legate al funzionamento stesso dell’applicazione (quello di simulare una chat), il bot di Replika raccoglie decine e decine di dati personali degli utenti che vengono, naturalmente, immagazzinati in un Paese terzo rispetto all’Unione Europea (che, quindi, potrebbe comportare problemi di compatibilità – come sappiamo – con il GDPR).

In più, come testimoniato anche da diversi esperti sul tema che Giornalettismo ha consultato (qui l’opinione di Antonino La Tona, psicologo clinico e digitale), Replika potrebbe creare un disagio psicologico molto forte, soprattutto a utenti che – per età o condizione personale – risultano essere fragili. Ma il più grande problema che questo strumento ha – e la crescita del suo utilizzo negli ultimi anni lo certifica – è quello di aver sdoganato il fatto che gli esseri umani possano delegare un concetto profondo e indispensabile nelle relazioni sociali, come l’amicizia, a una intelligenza artificiale. Che raramente contraddice, che raramente delude, che – per descrizione stessa dell’applicazione – non esprime giudizi, ansie o drammi sociali.

Ancora una volta, ci si rifugia nella tecnologia per sfuggire dalle complessità della realtà.