Che la tecnologia non sia neutrale, ormai, non possiamo che darlo per scontato. Che gli algoritmi non funzionino come meccanismi esclusivamente razionali, impermeabili ai pregiudizi umani è ormai una certezza. Così come è una certezza che la tecnologia è in una fase di accelerazione sempre più intensa e questa velocità richiede di essere accompagnata e governata. “Nessuna fuori dal codice. Donne che stanno riscrivendo l’AI” di Alessia Canfarini e Simona Rossitto parte da qui: l’intelligenza artificiale non nasce in mezzo al nulla, in un laboratorio di algoritmi astratti, ma affonda le sue radici in una società attraversata da squilibri, stereotipi e rapporti di potere. E proprio per questo può diventare tanto uno strumento di emancipazione quanto un gigantesco acceleratore di disuguaglianze.

«Il bias non nasce da un incidente, ma da un’eredità»

Quel che più si apprezza, nella lettura di questo viaggio alla scoperta dell’AI indossando le “lenti di genere” è che non servono né il tecnopanico nè tantomeno l’entusiasmo miope. Le autrici scelgono invece una strada più complessa e ben più esaustiva: osservare l’AI come uno specchio della società in cui viviamo. E dentro questa società le dannno un ruolo. Se nei dataset che alimentano gli algoritmi le donne sono marginali, stereotipate o invisibili, quella marginalità verrà replicata. «Il bias non nasce da un incidente, ma da un’eredità», scrivono, spostando così il problema da un piano esclusivamente tecnico a uno che includa anche gli aspetti culturali.

L’AI, come mostrano con chiarezza Canfarini e Rossitto, non inventa il sessismo: lo apprende. Lo assorbe da linguaggi, archivi, immagini, gerarchie professionali. Così accade che gli assistenti virtuali abbiano voci femminili accomodanti, che la parola “ingegnere” evochi automaticamente un uomo (non è forse così anche nell’immaginario comune?) e che le professioni di cura continuino a essere associate al femminile (non è forse così quello che viviamo ogni giorno?). È la traduzione automatizzata di un immaginario antico, radicato, profondo e che sta vivendo un’evoluzione ancora molto lenta.

La violenza sulle donne e l’AI «Giano bifronte»

Un esempio chiaro, documentato e convincente si trova nel capitolo dedicato alla violenza sulle donne, tema di cui Rossitto si occupa da oltre dieci anni. La tecnologia ha amplificato, reso più subdola la violenza, ha permesso la creazione di modalità violente e abusi di tipo differente, ponendo una sfida al mondo normativo, al suo riconoscimento, una sfida ulteriore alla tutela delle donne. Nelle piattaforme, nei processi di selezione automatizzati, nei deepfake pornografici, nei modelli predittivi che riproducono discriminazioni già esistenti si annidano nuove forme di violenza.

Ma il punto, qui, non è la tecnologia: quella, certo, richiede strumenti di tutela che siano affinati, norme e strategie adeguate. Il punto è capire che lo strumento tecnologico replica (e amplifica) quel che già esiste e che esso può essere tanto alleato quanto nemico, questo dipende da noi. Ecco che l’AI («Giano bifronte», la definiscono le autrici), può aiutare a combattere la violenza, così come può aiutare ad amplifiarla. A decidere come usarla siamo noi, come mostrano tutti gli esempi e i casi citati dalle autrici.

L’eccellenza della normalità e l’AI come motore di equità

In generale, quel che più rende importante questo libro è che apre a un mondo di possibilità, non solo di rischi da evitare. L’intelligenza artificiale viene raccontata come un possibile “motore di equità”, a patto però che le donne non restino ai margini della trasformazione. Non basta usare strumenti creati da altri: bisogna contribuire a scrivere il codice, costruire dataset, definire linguaggi, progettare modelli. In gioco non c’è soltanto la presenza femminile nelle Stem, ma la qualità stessa del futuro.

In questa direzione, è particolarmente interessante la seconda parte del libro, un vero e proprio viaggio nei racconti delle donne che con l’intelligenza artificiale hanno a che fare ogni giorno: nelle aule, nei laboratori, nelle imprese e nelle community. Donne che però non sono “supereroine” ( e certo non sono neanche “Cenerentole da salvare”). Le autrici ribaltano la retorica della donna eccezionale che riesce a emergere nonostante tutto, sempre perfetta, resiliente, infallibile. È una narrazione che conosciamo bene: donne costrette a dimostrare più degli uomini, a eccellere continuamente, a trasformare la sopravvivenza in performance. Le autrici scelgono invece di valorizzare le storie normali. Le ribellioni quotidiane, le traiettorie imperfette. Le donne che si raccontano in queste pagine sono competenti e fallibili, appassionate e prudenti. Le ragazze che entrano in un percorso Stem senza sentirsi “fuori posto”, le professioniste che imparano a usare l’AI senza dover incarnare modelli eroici, le donne che smettono di pensarsi come eccezioni. La normalità come diritto, non come concessione. Perché solo nella normalità di ogni giorno c’è spazio per la vera trasformazione, individuale e collettiva. Stare dentro l’AI è l’unico modo per cambiarla dall’interno.

Quello che non include non è innovativo

C’è un pensiero contenuto già nell’introduzione che attraversa tutto il volume: «Quello che non include non può essere considerato innovativo». Più che uno slogan, è una chiave di lettura. Perché il punto non è rendere le donne adatte all’intelligenza artificiale, ma impedire che l’intelligenza artificiale continui ad adattarsi soltanto al mondo costruito dagli uomini.

La questione, allora, diventa inevitabilmente etica. Chi progetta gli algoritmi? Con quali dati? Con quali valori? E soprattutto: chi resta fuori? In un tempo in cui l’AI promette di ottimizzare tutto — il lavoro, la selezione, la produttività, perfino le relazioni — il rischio più grande è dimenticare che ogni automatismo incorpora una visione del mondo. D’altra parte, lo sappiamo, uno stereotipo non è che una scorciatoia del pensiero. Le autrici non hanno soluzioni semplici da suggerire, ma percorsi complessi da mettere in piedi. Percorsi che coinvolgano attivamente la scuola come le imprese, che richiedono consapevolezza collettiva e investimenti concreti.

La tecnologia non corregge automaticamente le ingiustizie, non le crea. Può amplificarle oppure ridurle. Dipende da chi scrive il codice, da chi controlla i processi, da chi viene ascoltato mentre il futuro prende forma. E oggi, quel futuro, si sta già addestrando sui dati del presente.

***

Titolo: “Nessuna fuori dal codice”
Autrici: Alessia Canfarini, Simona Rossitto
Editore: Il Sole 24 Ore, 2026
Prezzo: 16,90 euro

***

La newsletter di Alley Oop

Ogni venerdì mattina Alley Oop arriva nella tua casella mail con le novità, le storie e le notizie della settimana. Per iscrivervi cliccate qui.

Per scrivere alla redazione di Alley Oop l’indirizzo mail è alleyoop@ilsole24ore.com