«Difficile immaginare un social network senza un sistema di raccomandazione»

L’orizzonte è quello del processo in Corte Suprema denominato Google v. Gonzalez. Gli osservatori sostengono che, in questo contesto, si giocherà molto del futuro di internet così come siamo abituati a concepirlo. Sul banco degli imputati c’è YouTube e il suo sistema di raccomandazione dei contenuti, ritenuto responsabile – dalla famiglia di una delle giovani vittime dell’attentato terroristico di Parigi del 2015 – di aver contribuito alla radicalizzazione dei terroristi. Da video a video, da argomento simile ad argomento simile: secondo la famiglia della vittima, i terroristi avrebbero manifestato sempre maggiore violenza a ogni contenuto consigliato dalla piattaforma. Google oppone la sezione 230 del Communications Decency Act, in cui si esclude che le piattaforme siano degli editori e in cui si allontana la responsabilità per l’utilizzo dei contenuti realizzati da parti terze. Ma l’esito del processo non è scontato e, in caso di un pronunciamento sfavorevole al colosso di Mountain View, il sistema di raccomandazione (a quel punto non più solo di Google, ma anche di altre piattaforme) sarebbe completamente da rivedere. Per un’analisi di scenario, Giornalettismo ha consultato il professor Francesco Ricci, ordinario di Computer Science all’Università di Bolzano, autore – tra le altre cose – del volume Algoritmi di servizio pubblico. Sistemi di raccomandazione ed engagement per le nuove piattaforme multimediali pubbliche. 

LEGGI ANCHE > La difesa di Google nel processo della famiglia Gonzalez che riguarda la raccomandazione del contenuto

Social network e raccomandazione, l’intervista al docente Francesco Ricci

«Direi che è difficile immaginare un social network senza sistema di raccomandazione – ci spiega -, data la grande mole di dati che ogni utente dovrebbe ricevere se gli fossero inviati tutti i post, per esempio, di tutte le persone che segue. Per cui, una forma di filtraggio, se non è prodotta da un editor umano, deve essere prodotta da un “editor artificiale”. Naturalmente ci sono notevoli differenze tra un sistema di raccomandazione e l’altro, per cui è possibile scegliere come fare questa raccomandazione in base agli obbiettivi della piattaforma. Per esempio, si può privilegiare l’engagement, ma si può anche privilegiare l’esposizione ad una varietà di contenuti».

Da un punto di vista tecnico e non strettamente giuridico, sembra essere possibile – effettivamente – dimostrare l’impatto del sistema di raccomandazione del contenuto sul comportamento di un utente. Il tema è sempre stabilire di chi sia la responsabilità di questo comportamento: «Non sono un giurista – precisa il professor Ricci -, per cui mi astengo da un giudizio tecnico. Dal mio punto di vista, è certamente possibile tracciare le raccomandazioni fornite a un utente e quindi valutare se nella costruzione di queste raccomandazioni il sistema ha fornito informazioni unilaterali o addirittura errate. Quindi chi usa un sistema di raccomandazione nella sua piattaforma è responsabile della qualità delle informazioni fornite. Ovviamente non è responsabile dell’uso (improprio) delle informazioni».

La possibilità di un sistema di raccomandazione etico

Uno dei temi di ricerca rispetto alla raccomandazione del contenuto è quello di capire quali siano le esigenze di una varietà di portatori di interesse. Tra questi, ovviamente, occorre prendere in considerazione anche le piattaforme stesse che, tuttavia, non sono sufficientemente trasparenti sugli algoritmi implementati. «In aggiunta a questo – spiega Ricci -, ci dobbiamo certamente preoccupare se la piattaforma usa in maniera consapevole o meno, degli algoritmi che rinforzano certi bias che sono stati osservati, come quello di popolarità, per cui contenuti popolari diventano ancora più popolari».

Tutti dovrebbero lavorare affinché i sistemi di raccomandazione siano eticamente sostenibili. «Si possono costruire raccomandazioni che per esempio non suggeriscono in maniera disproporzionata prodotti di un certo venditore o che non funzionano meglio per gruppi di utenti di un certo tipo (bianchi vs neri). Naturalmente questo ha un costo, in termini di altre metriche che invece sono penalizzate. Non è possibile costruire un algoritmo che sia allo stesso tempo ottimizzato per la diversità e che allo stesso tempo massimizzi i click sui contenuti generati. La via di mezzo è sempre una decisione dell’ingegnere che ha costruito l’algoritmo. Nel mio gruppo di ricerca, ad esempio, ci occupiamo di sistemi per il turismo sostenibile in cui gli obbiettivi del turista sono bilanciati da quelli della destinazione, per cui punti di interesse sovraffollati sono raccomandati tenendo conto dell’affollamento previsto».