Facebook riuscirà ad individuare autonomamente il revenge porn

Facebook ha presentato un nuovo sistema di Intelligenza Artificiale in grado di individuare autonomamente contenuti di revenge porn. Non ci sarà quindi più bisogno della segnalazione degli utenti: grazie al sistema di machine learning, il sistema segnalerà il contenuto ad un moderatore umano. Il sistema. verrà attivato anche sulla piattaforma di Instagram.

Facebook combatte il revenge porn con l’intelligenza artificiale

D’ora in poi, non sarà più necessario aspettare la segnalazione delle vittime per bloccare contenuti di revenge porn diffusi su Facebook. Dopo aver sviluppato una tecnologia di riconoscimento fotografico che impediva la ri-pubblicazione di contenuti segnalati e bloccati come non consensuali, il social network decide di fare un passo in più. «Spesso le vittime hanno paura delle conseguenze e sono quindi riluttanti a segnalare i contenuti stessi oppure ignorano che il materiale sia stato condiviso» ha spiegato il responsabile globale della sicurezza di Facebook Antigone Davis, presentando il nuovo sistema di intelligenza artificiale del social. L’innovativo strumento, che evolve da quello sviluppato per combattere i contenuti di incitamento all’odio e al terrorismo, sarà in grado di individuare i contenuti pornografici non autorizzati e inviarli ad un moderatore umano «prima che qualcuno ne faccia segnalazione o denuncia». Non è chiaro quanto possa essere efficace, ma grazie al machine learning, il sistema AI rileverà innanzitutto i contenuti di nudo, e analizzerà poi il testo della didascalia. Se in essa figurano parole e frasi «dispregiative o vergognose», segno di un contenuto aggressivo e con intento vendicativo, l’intelligenza artificiale segnalerà il contenuto autonomamente ad un moderatore umano per l’analisi finale. In questo modo Facebook spera di bloccare la pubblicazione di materiale non autorizzato dalle persone riprese o fotografate, sopratutto in situazioni di intimità.

Oltre al machine learning Facebook lancia anche l’hub “Not Without My Consent”

Oltre al nuovo strumento, Facebook ha annunciato anche il lancio di un nuovo hub ” Not Without My Consent” [non senza il mio consenso, ndr] dove gli utenti potranno segnalare non solo contenuti di revenge porn, ma avviare anche delle discussioni costruttive sul tema ed esprimere critiche e suggerimenti sul nuovo meccanismo di individuazione. Un centro di supporto virtuale non solo tecnologico ma anche emotivo, sviluppato da Facebook insieme a organizzazioni ed esperti.

(credits imagine di copertina: © Igor Golovniov/SOPA Images via ZUMA Wire)