YouTube non sa che ci sono scacchi bianchi e scacchi neri. E blocca il canale per razzismo

Eravamo nel giugno del 2020. All’improvviso, il noto canale YouTube di scacchi Agadmator, che ha oltre un milione di iscritti, è stato sospeso per 24 ore, poiché – secondo la piattaforma – erano stati pubblicati contenuti violenti che violavano le sue policies. Una storia piuttosto strana, dal momento che il canale pubblica esclusivamente lezioni o sfide di scacchi. Bisognava capire, insomma, che tipo di violazione fosse stata commessa, dal momento che il classico gioco di strategia non poteva in alcun modo veicolare contenuti inappropriati. E allora due ricercatori del Carnegie Melon’s Language Technologies Institute ci hanno voluto vedere chiaro e hanno fatto una scoperta che, a distanza di mesi, potrebbe contribuire a svelare l’arcano: il canale scacchi su YouTube potrebbe essere stato sospeso perché la piattaforma aveva riconosciuto in alcune espressioni del gergo del gioco delle frasi razziste.

LEGGI ANCHE > Il tweet tutto sbagliato di Tgcom 24 sulla “regina nera di Italia Viva”

Canale scacchi su YouTube bloccato per razzismo?

Il risultato della ricerca si basa sull’analisi di 680.000 commenti provenienti da cinque famosi canali di scacchi di YouTube. Tra questi hanno scelto un campione di 1000 commenti che il software aveva contrassegnato come razzisti: il risultato è stato che l’82% dei commenti evidenziati, invece, non conteneva alcun riferimento offensivo, ma era rappresentato semplicemente da espressioni come «attacca il nero», «minaccia il nero», che si usano correntemente nel gioco degli scacchi.

Per questo motivo, i due ricercatori Ashique R. KhudaBukhsh e Rupak Sarkar sospettano che, dietro a questo enorme malinteso, ci sia l’intelligenza artificiale a cui si affida YouTube per la rimozione dei contenuti a sfondo razzista. In passato, incidenti di questo tipo sono capitati anche su altre piattaforme di social networking e episodi del genere devono chiaramente farci riflettere. L’odio in rete è un fenomeno radicato, serio e difficile da affrontare: se pensiamo che le grandi piattaforme si affidano a macchine che azzerano qualsiasi tipo di differenza nelle sfumature con cui alcune espressioni vengono utilizzate, allora siamo davvero molto distanti dal poter trovare una qualsiasi soluzione a uno dei mali del nostro secolo.