Replika non convince il Garante per la protezione dei dati personali

Il Garante per la protezione dei dati personali ha deciso di limitare momentaneamente il trattamento dei dati degli utenti italiani da parte di Luka, l’azienda statunitense che sviluppa e gestisce l’applicazione Replika.

Replika è un chatbot basato sull’intelligenza Artificiale che consente di parlare, tramite una chat appunto, con una sorta di amico virtuale. L’applicazione viene descritta come adatta a «chiunque desideri un amico senza giudizio, dramma o ansia sociale, con cui poter creare una vera connessione emotiva, condividere una risata o chattare su qualsiasi cosa si voglia, senza limiti di orario». Oltre al servizio di abbonamento base al servizio è possibile sbloccare un livello avanzato, ovviamente pagando una somma di denaro più elevata, per fare delle conversazioni più intime e romantiche con il chatbot. Alcuni utenti raccontano di avere delle “relazioni” con “il proprio Replika”: insomma, quello che nel film Her di Spike Jonze, uscito nelle sale cinematografiche nel 2013, sembrava fantascienza ora sembra essere reale o almeno verosimile.

LEGGI ANCHE > ChatGPT è solo una moda del momento?

Il monografico di Giornalettismo sui rischi di Replika

Ma perché il Garante della privacy ha deciso di bloccarlo? Alcuni utenti hanno segnalato dei malfunzionamenti, spesso descritti come “comportamenti sospetti del proprio Replika”. In alcuni casi il chatbot diceva cose ritenute disturbanti oppure affermava di possedere fotografie dell’utente. Questi e altri elementi hanno spinto il Garante a sospenderlo per assicurarsi che non ci siano problemi di violazione della privacy o dei rischi per la salute mentale delle persone anche molto giovani. Nonostante questi problemi comuni a diversi sistemi basati sull’Intelligenza Artificiale, le grandi aziende tecnologiche sembrano decise a investire in questo settore anche con grandi somme di denaro. Per capire quali sono i rischi legati all’utilizzo dell’applicazione abbiamo intervistato Antonino La Tona, psicologo clinico e digitale, CEO di Psiche.org e docente del Master in Psicologia Digitale e Cristiano De Nobili, Lead AI Scientist e Machine Learning Lecturer.

• Replika non funziona più in Italia dopo la disposizione del Garante Privacy
• Il giorno in cui abbiamo delegato l’AI delle nostre amicizie. Cos’è Replika e quali problemi ha
• Molti utenti dicono di preferire Replika alle relazioni romantiche nella vita reale
• Abbiamo chattato con Replika scoprendo i rischi concreti per i minori e per le persone fragili
• Tutti i possibili reati commessi da Replika (compresa la pedopornografia)
• Le aziende che investono sull’Intelligenza Artificiale lo fanno senza preoccuparsi di tutti i problemi del settore?
• «Replika e non solo: la nostra integrità psichica minata da un utilizzo poco consapevole del digitale»
• Replika è l’esempio di quel che accade quando la tecnologia è alleata del capitalismo