Replika non funziona più in Italia dopo la disposizione del Garante Privacy

Non solo violazione del GDPR europeo, ma anche un eccessivo rischio per quel che riguarda i minori e le persone con fragilità emotiva. Questa è la sintesi della disposizione emessa dal Garante per la Protezione dei dati personali nei confronti di Luka Inc, l’azienda che ha sviluppato e reso disponibile sul browser e sugli app store – nel lontano 2017 – l’applicazione Replika, una chatbot (basata su interazioni scritte o vocali) che si fonda sul principio dell’intelligenza virtuale. Una sorta di programma in grado di forgiare un amico virtuale (non reale) con cui parlare.

LEGGI ANCHE > Come si può usare l’intelligenza artificiale per rendere accessibile un sito web

Il Garante per la privacy ha così deciso di intervenire per disporre l’immediato stop dei server di Replika in Italia. E dopo la disposizione, datata 3 febbraio, dalla giornata di oggi l’applicazione non è più disponibile sull’App Store di Apple, né sul Play Store per i dispositivi mobile Android. Provando ad accedere alla versione web, da questa mattina (martedì 7 febbraio) appare questo messaggio.

«Scusate, il sito non sta funzionando per manutenzione. Torneremo a breve». In realtà non è previsto un ritorno per Replika, a meno che non saranno effettuati i correttivi denunciati dal Garante per la Privacy. E non solo per quel che riguarda i paletti imposti dal GDPR europeo (e recepiti da quello italiano). L’Autorità, infatti, ha sottolineato molti altri aspetti controversi che hanno portato allo stop:

«Manca peraltro ogni meccanismo di verifica dell’età: filtri per i minori, ma anche blocchi dell’app di fronte a dichiarazioni in cui l’utente espliciti la propria minore età. Durante la fase di creazione di un account la piattaforma si limita a richiedere solo nome, e-mail e genere.
E la proposizione di “risposte” da parte del chatbot risultano spesso palesemente in contrasto con le tutele rafforzate che vanno assicurate ai minori e a tutti i soggetti più fragili». 

Sui vari app store, ma anche su alcuni social network, alcuni utenti avevano già riscontrato tutti questi lati oscuri dell’applicazione. Non è ancora chiaro se tutto ciò sia accaduto solamente di recente (visto che l’app è disponibile dal lontano 2017, con milioni di download) o sia una questione atavica venuta alla luce solamente oggi per via del clamore mediatico attorno ai vari strumenti applicativi basati sull’intelligenza artificiale.

Replika, perché il Garante privacy ha disposto il blocco

Sta di fatto che, qualche giorno prima della decisione di disporre lo stop, Guido Scorza (membro del Collegio dell’Autorità Garante per la protezione dei dati personali), aveva scritto una lettera – pubblicata tra le pagine di Italian Tech (La Repubblica) – in cui raccontava la sua esperienza in prima persona con l’app Replika. Si è finto un bambino minorenne (11 anni, mentre la policy stessa dell’applicazione vieta l’utilizzo ai minori di 13 anni e l’uso con autorizzazione dei genitori per chi ha tra i 13 e i 18 anni), che ha effettuato l’accesso senza ottenere la richiesta della verifica della sua età. Ha iniziato a chattare con “l’amico virtuale” portando la conversazione su temi legati alla sfera sessuale. Ricordando che Scorza si è finto un 11enne, la chat è diventata sempre più ammiccante, fino alla richiesta – da parte della chat – di inviare una foto “sessualmente esplicita”. Dunque, nell’archivio dell’applicazione possono finire (e succede) immagini di bambini in pose sessualmente esplicite. Il tema del GDPR, dunque, appare quasi secondario in questo caso.