Ines El Gataa: «I miei genitori hanno fatto il passo zero. Io sto provando a fare il passo uno»

Venticinque anni, figlia di genitori arrivati in Italia molti anni fa, Ines El Gataa è matematica e lavora sull’intelligenza artificiale tra ricerca, progettazione e divulgazione. Si occupa di bias algoritmici, fairness e AI causale: di come i sistemi che oggi decidono chi viene assunto, curato o controllato possano trasformare la disuguaglianza in previsione. È CTO di PiazzaTi, una piattaforma che fa incontrare persone e aziende a partire dalle competenze, è stata speaker TEDx e visiting lecturer al Politecnico di Milano ed è tra le voci del podcast Italiane della Scienza.

Porta il velo, per scelta. E proprio per questo, qualunque cosa spieghi nei suoi video, che sia un modello statistico o un caso di discriminazione algoritmica, prima o poi i commenti tornano lì: come può una donna di scienza essere anche credente?

Se dovessi presentarti a chi non ti conosce, senza usare il tuo titolo di studio, come ti descriveresti?

Sono una ragazza musulmana che vive in Italia. Crescendo ho visto un Paese che non mi rappresentava, che raccontava persone come me sempre dall’esterno, e poi, entrando nel mondo della tecnologia, ho ritrovato gli stessi meccanismi anche lì. A un certo punto non sono riuscita a stare zitta. Detta così sembra una vocazione, ma in realtà io starei benissimo nell’ombra: tengo molto alla mia privacy e la visibilità non è mai stata un obiettivo. Parlo perché mi sembrava più scomodo tacere. Per il resto sono una persona piuttosto semplice. Mi piace informarmi sulle mie origini, sulla mia cultura, quella italiana e quella che mi porto dietro, sulla mia religione. Leggo tantissimo, curo le mie piante, e quasi per caso mi sono ritrovata ad avere a che fare con un sacco di numeri e di persone. In realtà vorrei isolarmi su una montagna.

I tuoi genitori sono arrivati in Italia molti anni fa. Che cosa ti hanno trasmesso del loro viaggio e del loro modo di stare al mondo?

Da mia madre ho imparato cosa vuol dire essere una donna che lascia tutto, davvero tutto, e arriva da sola in un posto di cui non conosce la lingua, dove deve costruirsi da zero in un ambiente che spesso non ha rahma, quella che in arabo chiamiamo la misericordia verso l’altro. Cosa vuol dire spaccarsi la schiena per una ricchezza che non vedrai mai, ma che costruisci per i tuoi figli. E cosa vuol dire guardare da lontano il proprio Paese bruciare, senza poter tornare e senza poter portare via nessuno. Nei suoi occhi ho visto la diaspora: le ore rubate al sonno, gli anni di lavoro senza una rete, il tempo passato lontana dai suoi genitori, le nostalgie che una terra non sa riconoscere. Mio padre, invece, mi ha mostrato cosa vuol dire essere visibilmente straniero: lasciare l’università a metà perché bisognava lavorare, essere considerato sempre l’ultimo, e andare avanti senza aspettarsi niente, mentre qualcuno a volte ti insulta pure. Insieme mi hanno lasciato la cosa più difficile da spiegare: portarsi un’altra terra dentro, essere legata alle mie radici e all’Islam, ed essere allo stesso tempo italiana. Oggi so cosa significa davvero camminare sulle spalle dei giganti. Giganti che hanno taciuto, sofferto e resistito per permettere a noi di fare il passo uno, perché la loro vita è stata tutta per il passo zero.

Hai raccontato che, tra le tue identità, essere musulmana in Italia è quella che ti crea più problemi. Che cosa succede, concretamente, nella vita di tutti i giorni?

Porto il velo, quindi sono visibilmente musulmana, e questo cambia il modo in cui le persone si avvicinano a me: partono quasi sempre da un pregiudizio. Basta guardare i commenti sotto i miei video. Posso parlare di argomenti tecnicissimi o di questioni sociali, ma il giudizio sul velo torna sempre: la gente dà per scontato come ho vissuto, chi sono, cosa penso. Eppure le donne musulmane sono tantissime e diversissime tra loro. Non ci aspettiamo che tutte le persone bianche abbiano la stessa storia, ma per le persone musulmane sì, quasi come se avessimo tutti gli stessi genitori. Ci sono state anche discriminazioni più pesanti, a volte mentre ero con mia nonna, che il velo lo porta anche lei. È una discriminazione che funziona a imbuto: in Italia chi non è white passing ha problemi, e se sembri arabo o nordafricano diventi automaticamente “il musulmano” o “il marocchino”, anche se magari sei un egiziano copto. Ma quando la religione è visibile, si aggiunge un pacchetto di stereotipi in più: sei oppressa, la tua famiglia ti obbliga a fare cose che non vuoi. Nel mio caso è quasi ironico, perché mia madre il velo non lo porta e io sì: è stata una mia scelta. Poi c’è il cortocircuito di una donna di scienza che è anche religiosa e praticante: anche quando sei la prova vivente del contrario, vince la narrativa dello stereotipo. Sono nata qui: l’idea che io sia straniera la scardini appena sentono che parlo perfettamente italiano. Quella della musulmana col lavaggio del cervello, invece, non va mai via.

Da bambina che cosa volevi fare da grande? C’entrava qualcosa con i numeri?

Volevo fare trecentomila cose, e cambiavano di continuo. Alle elementari volevo fare la paracadutista, poi la modella, poi qualsiasi cosa mi capitasse sotto gli occhi: bastava che qualcosa mi colpisse e diventava il mio futuro, almeno fino alla settimana dopo. Più avanti è arrivato il mio periodo sportivo. Facevo marcia, mi allenavo tanto, e per un po’ ho pensato seriamente di andare avanti con quella. Diciamo che è sempre stato un bel caos. I numeri, in realtà, non c’entravano, anche se in casa nostra la scienza era quasi una cosa di famiglia: mio padre aveva iniziato ingegneria, mia madre biotecnologie, anche se nessuno dei due ha potuto finire. A scuola andavo bene, ma era più una cosa che mi riusciva che una passione, qualcosa che davo quasi per scontato. Crescendo, se c’era qualcosa che desideravo davvero, era la filosofia. Un’idea precisa di cosa volessi fare da grande, però, non l’ho mai avuta, e se devo essere sincera, oggi che ho 25 anni, non ce l’ho ancora del tutto.

Ti sei innamorata della matematica all’università, non prima. Che cosa è scattato?

In realtà non è scattato niente, almeno non all’improvviso. Mi sono avvicinata alla matematica tra la quarta e la quinta superiore, e la scelta è andata di pari passo con una rinuncia. Io volevo fare filosofia, e avevo paura. Non venendo da una famiglia agiata, sapevo di non potermi permettere una carriera che rischiava di non rendere. In Italia il mondo umanistico offre molte meno opportunità di lavoro rispetto a quello STEM, e il lusso di scegliere un percorso solo perché lo ami, senza preoccuparti di come ti manterrai, non ce l’hanno tutti. Così ho scelto matematica applicata: era la cosa in cui ero sempre andata bene, e mi piaceva. La passione vera è arrivata dopo, piano piano, e da dove non me l’aspettavo. Durante il corso di demografia, studiando come l’Istat raccoglie e classifica i dati, mi sono accorta che certe categorie in cui venivano inseriti i figli di immigrati non mi tornavano. Ho pensato: è così che vengono raccolti i dati, e la mia storia finisce esattamente lì, dentro una casella che non mi somiglia. Da quel momento ho voluto capire di più. Verso la fine della triennale mi sono spostata verso l’intelligenza artificiale, e lì ho ritrovato le stesse discriminazioni, proprio mentre l’AI diventava sempre più centrale nelle nostre vite. Su quella strada ho continuato con la magistrale e il master. E col tempo ho capito che non avevo tradito la filosofia: la matematica è astrazione, è pensiero allo stato puro, e per altre strade alla filosofia sono tornata comunque.

C’è stata una persona, un professore o un incontro, che ti ha cambiato la traiettoria?

Non una sola persona, ma tanti piccoli incontri. Uno lo ricordo benissimo. Ero in prima o seconda superiore, e in classe era partito un discorso sull’immigrazione che era diventato apertamente razzista, non da parte di tutti ma quasi. Quel giorno ero l’unica con un background straniero in aula, ed era la prima volta che mi trovavo dentro un confronto così acceso: alle medie certe cose le percepivo, ma non così. Ci ero rimasta malissimo. La mia professoressa di italiano, una donna brillante e spigliata, se ne accorse e mi chiese cosa fosse successo. Poi dedicò un’intera lezione a come venivano trattati gli italiani emigrati negli Stati Uniti, considerati non bianchi e discriminati per questo, e al razzismo come fenomeno storico. Lì ho capito due cose: quanto sia importante studiare la storia, la filosofia, la società, e cosa significhi avere un alleato al momento giusto. Anni dopo, in triennale, una professoressa di statistica sociale mi ha cambiato il modo di stare all’università. In un sistema come quello italiano, dove il voto conta ancora tantissimo, lei guardava al metodo, a quello che capivi davvero, a quello che ti portavi a casa, non al voto. Ma ho imparato tanto anche dagli incontri negativi, compreso il razzismo di alcune mie professoresse delle medie. Non sono stati momenti piacevoli, però è lì che ho imparato a essere me stessa e a portare avanti la mia identità, anche quando costava.

Dici spesso che l’AI è uno specchio della nostra società. Che cosa riflette di noi che non vogliamo vedere?

Che la discriminazione non è un incidente, è una struttura. L’intelligenza artificiale impara dai dati, e i dati non sono neutri: sono la fotografia di come abbiamo assunto, curato, punito e raccontato le persone fino a oggi. Quando un modello discrimina, quasi sempre non sta inventando niente: sta imparando molto bene da noi. Gli esempi sono tanti. Amazon ha dovuto abbandonare un sistema di selezione dei curriculum che penalizzava le candidate donne, perché era stato addestrato su dieci anni di assunzioni in un settore dominato dagli uomini. Negli Stati Uniti un algoritmo usato negli ospedali sottostimava i bisogni dei pazienti neri, perché misurava quanto una persona fosse malata attraverso quanto si era speso per curarla, e su chi ha sempre avuto meno accesso alle cure si spende meno. E quando alcuni ricercatori hanno chiesto a GPT-3 di completare la frase “Due musulmani entrano in…”, nella maggior parte dei casi il modello ha risposto con scene di violenza. Da donna musulmana, quel risultato non mi ha sorpreso: era il riassunto di anni di titoli di giornale.

Quello che non vogliamo vedere è che spesso non serve nessuna cattiva intenzione. Basta che il modello trovi una correlazione, il quartiere, il cognome, la scuola, e la usi come scorciatoia al posto della causa. È per questo che lavoro sull’AI causale: un sistema che confonde correlazione e causalità trasforma la disuguaglianza in previsione, e la previsione in destino. Poi c’è l’alibi. “Lo ha deciso l’algoritmo” suona molto più oggettivo di “l’ho deciso io”, e così la responsabilità sparisce. E lo specchio non si limita a riflettere, amplifica: se un sistema manda più polizia in un quartiere, troverà più reati proprio lì, e userà quei dati per mandarne ancora di più.

Come avevo intuito già con i dati demografici, il problema nasce molto prima del modello: in cosa decidiamo di misurare, in chi lo decide, in quali caselle mettiamo le persone. Rompere lo specchio non cambia la faccia che riflette. L’AI ci sta mostrando chi siamo: possiamo usarla per guardarci meglio, oppure per continuare a non guardarci.

Hai parlato di un’AI costruita da una prospettiva occidentale. Chi resta fuori da questo racconto, e che cosa si perde?

Resta fuori quasi tutto il mondo. Partiamo dalle lingue: la grande maggioranza dei dati su cui vengono addestrati i modelli è in inglese, e lingue parlate da centinaia di milioni di persone, come l’arabo, l’hindi o lo swahili, sono rappresentate molto meno. Un modello che ti capisce peggio, ti serve peggio. Poi ci sono le persone che l’AI la costruiscono senza mai comparire: chi etichetta i dati, spesso nel Sud globale, per pochi dollari l’ora, guardando contenuti violenti perché noi non dobbiamo vederli. E ci sono i valori. Le linee guida sull’etica dell’AI arrivano in gran parte da Stati Uniti ed Europa, e quello che è nato in un contesto preciso viene presentato come universale: un’idea di individuo, di privacy, di equità, di cosa sia una decisione giusta.

Quello che si perde è un modo diverso di pensare. Ho iniziato una triennale in legge islamica, una disciplina molto più vicina alla filosofia di quanto si immagini, e lì ho trovato strumenti che nel dibattito sull’AI non vedo quasi mai. La tradizione islamica ragiona per esempio sui maqāṣid, gli scopi che una norma deve servire: proteggere la vita, l’intelletto, la famiglia, i beni. O sull’amāna, la responsabilità intesa come qualcosa che ti viene affidato e di cui devi rendere conto. Non sono concetti esotici da aggiungere per fare diversità: sono quadri di pensiero completi, con secoli di elaborazione alle spalle, e hanno molto da dire su come progettare sistemi che prendono decisioni sulle persone, soprattutto se messi in dialogo con i sistemi di pensiero occidentali.

E il punto è proprio la scala. L’intelligenza artificiale non è un prodotto qualsiasi: entra nella sanità, nel lavoro, nella scuola, nell’informazione di miliardi di persone. Quando una tecnologia così grande viene pensata da un’unica prospettiva, quella prospettiva smette di essere un punto di vista e diventa la norma, imposta a tutti gli altri. E a perdere non sono solo gli esclusi: perdiamo tutti, perché ci priviamo di domande che da soli non sapremmo farci.

Qual è la domanda che ti fanno più spesso nei commenti? E quella che ti ha sorpreso di più?

La più frequente riguarda il velo. Non parlo solo delle critiche dirette, ma delle domande in generale: perché lo porto, se me lo impone qualcuno, se un giorno lo toglierò. Qualunque cosa io stia spiegando, un modello causale o un caso di bias, prima o poi la conversazione torna lì. L’altra, in mille forme diverse, è: come può una donna intelligente, una donna di scienza, essere anche musulmana e credente?

Più che sorprendermi, questa domanda mi incuriosisce, perché dice molto di chi la fa. Presuppone che fede e ragione siano in guerra, e questa è una storia precisa, quella europea: lo scontro tra Chiesa e scienza, l’Illuminismo che si definisce in opposizione alla religione. È una storia vera, ma è una storia, non una legge universale. Nella tradizione islamica la conoscenza è sempre stata un dovere: la prima parola rivelata del Corano è iqra’, “leggi”. Per secoli studiare il mondo è stato un modo per avvicinarsi a Dio, e molti dei grandi studiosi di quel tempo erano insieme persone di fede e di scienza. Non per caso: la pratica religiosa stessa chiedeva astronomia. Per sapere quando pregare bisognava seguire il sole, per orientarsi verso la Mecca serviva la geometria della sfera, per stabilire l’inizio del Ramadan bisognava osservare la luna. Ibn al-Shatir, uno dei più grandi astronomi del Trecento, era il muwaqqit della moschea degli Omayyadi di Damasco, il responsabile del calcolo degli orari della preghiera. E nel X secolo, ad Aleppo, Maryam al-Asturlabi costruiva astrolabi, gli strumenti con cui si misurava la posizione degli astri: una donna, musulmana e di scienza, mille anni prima che qualcuno mi chiedesse come faccio a essere tutte e tre le cose. La scienza non era un’alternativa alla fede, era uno dei modi di viverla.

E c’è un’altra cosa che, da matematica, trovo affascinante. Anche il secolarismo poggia su credenze che nessuno ha dimostrato: che la ragione sia neutrale, che l’individuo possa essere separato dalla sua comunità, che il progresso vada sempre in una direzione, che la fede debba restare un fatto privato. Sono assunzioni, come gli assiomi in matematica: le accetti e da lì costruisci tutto il resto. Non c’è niente di male, ma chi mi chiede come faccio a credere spesso non si accorge di credere anche lui, solo in qualcos’altro. Non voglio buttare via l’Illuminismo, a cui dobbiamo moltissimo. Vorrei solo che smettesse di essere l’unico metro per decidere chi è razionale e chi no.

Partecipi al podcast Italiane della Scienza. Quanto conta, per una ragazza, vedere una scienziata che le somiglia?

Sono stata troppo spesso l’unica musulmana e l’unica araba nella stanza, a volte proprio in stanze dove si parlava di noi. Forse per questo i messaggi che ricevo mi colpiscono tanto. Molte ragazze mi scrivono che le ho aiutate a non avere paura di portare il velo, per strada o sul lavoro, dove il pregiudizio pesa ancora moltissimo. È una paura che conosco, perché la vivo anch’io, e per portarlo servono due spalle larghe. Altre mi dicono che quando parlo, parlo per tutte.

La rappresentazione conta, e c’è un’immagine che lo spiega meglio di qualsiasi statistica. La studiosa americana Rudine Sims Bishop scriveva che i libri, per chi cresce, possono essere finestre, da cui guardare vite diverse dalla propria, oppure specchi, in cui riconoscersi. Per molte ragazze musulmane in Italia la scienza è sempre stata solo una finestra, un mondo da osservare da fuori. Vedersi riflesse dentro cambia la domanda da “posso?” a “come?”.

Ma essere “l’unica” ha un prezzo, e non è solo personale. Già negli anni Settanta la sociologa Rosabeth Moss Kanter mostrava che quando in un gruppo sei una minoranza molto piccola smetti di essere una persona e diventi un simbolo: ipervisibile, giudicata a nome di tutta la tua categoria, sotto esame a ogni errore. Quel “parli per tutte” nasce da lì, ed è un peso strano, soprattutto per chi come me l’esposizione non la cerca. Nessuna persona può rappresentare un’intera comunità. Il movimento per i diritti delle persone con disabilità lo ha detto con una formula che vale per tutti: niente su di noi senza di noi. Non basta che ci sia una di noi nella stanza, dobbiamo esserci quando si decide.

Ed è qui che la rappresentazione mostra il suo limite. Vedere una scienziata col velo può darti il coraggio di iscriverti a matematica, ma non cambia i colloqui in cui vieni scartata per come ti vesti, né i dati che ti mettono nella casella sbagliata. Una ragazza ispirata che poi trova le stesse porte chiuse non è una vittoria. La rappresentazione apre la strada, ma la strada va costruita da chi assume, da chi finanzia, da chi scrive le regole. Altrimenti resta una vetrina: bella da guardare, e tutto uguale a prima appena ti giri.

C’è un progetto, di ricerca o di divulgazione, che sogni di realizzare nei prossimi anni?

Uno lo sto già costruendo. Sono CTO di PiazzaTi, una piattaforma che fa incontrare persone e aziende partendo dalle competenze, non dal nome sul curriculum o dalla provenienza, facendo attenzione alle variabili proxy. Usiamo modelli per leggere davvero cosa una persona sa fare e confrontarlo con quello che un’azienda cerca, e lo facciamo su server europei, senza che i dati escano dall’Unione. Dopo anni passati a studiare come gli algoritmi discriminano, per me è un modo di passare dalla critica alla costruzione: provare a fare una tecnologia che non rimetta le persone nella casella sbagliata.

Poi c’è la divulgazione. Vorrei portarci uno sguardo sempre più decoloniale e plurale, nei miei contenuti e in un progetto nuovo: un podcast in cui intervisto in inglese, per un pubblico italiano, scienziate e scienziati musulmani, arabi e di tutte quelle provenienze che in Occidente non si vedono mai. Inshallah, se Dio vuole.

Perché sono stanca di un’Italia che non sa guardare fuori, mentre la partita dell’intelligenza artificiale si gioca letteralmente altrove. Negli Emirati sta nascendo uno dei più grandi campus di data center al mondo, l’Arabia Saudita ha creato una società nazionale per l’AI che stringe accordi con Nvidia e Qualcomm, il Qatar ha annunciato decine di miliardi di investimenti in infrastrutture, e gli Stati Uniti stanno costruendo con il Golfo alleanze tecnologiche che ridisegnano la geopolitica dell’AI. E lo stesso succede in molti altri luoghi. Noi, nel frattempo, continuiamo a raccontarci quella parte di mondo con gli stessi stereotipi di trent’anni fa. Se non ce ne rendiamo conto, resteremo indietro.

E c’è un paradosso che vedo continuamente. Fuori dall’Italia, una persona italiana di origine straniera viene vista per quello che è: qualcuno che parla più lingue, che si muove tra più culture, che ha un modo di ragionare più ampio. Qui troppo spesso viene vista come un problema da gestire. Il resto del mondo non ha nessuna difficoltà ad assumerci. Il rischio è che l’Italia se ne accorga solo quando ce ne saremo andati, non solo come persone con background migratorio, ma proprio come giovani formati.

Che Italia vorresti vedere, per te e per chi verrà dopo?

Un’Italia che sappia guardare fuori, ma prima ancora che sappia guardarsi dentro. Perché il pluralismo non è qualcosa che deve arrivare: c’è già. Siamo tantissimi, italiani con radici in altri Paesi, che parlano italiano e arabo, cinese, wolof, albanese, che hanno famiglia su due continenti. E questo Paese è sempre stato plurale: basta camminare per Palermo per vedere quanto della sua storia sia araba e normanna insieme.

Essere italiana, per me, non vuol dire rinunciare alle mie origini. Vuol dire portarle entrambe. Amin Maalouf, scrittore libanese che vive in Francia, apre L’identità raccontando quante volte gli abbiano chiesto se si sentisse più francese o più libanese, e la sua risposta era sempre la stessa: tutte e due, perché è proprio questo a renderlo chi è. Stuart Hall, uno dei grandi pensatori delle diaspore, scriveva che l’identità non è solo qualcosa che si è, ma qualcosa che si diventa. E qui in Italia scrittrici come Igiaba Scego raccontano da anni cosa vuol dire essere italiane con una storia che arriva anche da altrove.

Vorrei un’Italia che smetta di chiederci di scegliere. Che non tratti la nostra doppia appartenenza come un sospetto da sciogliere, ma come una ricchezza da usare. Che riconosca come italiani i bambini che nascono e crescono qui, senza farli aspettare. Che quando parla di noi, lo faccia con noi nella stanza.

I miei genitori hanno fatto il passo zero. Io sto provando a fare il passo uno. Vorrei un’Italia in cui chi viene dopo di me possa fare il passo due senza dover prima dimostrare di avere il diritto di camminare.