Il problema del bias è tutt’altro che risolto. Il pregiudizio insito negli algoritmi è questione nota agli sviluppatori e a chi si occupa di allenare e testare i sistemi di intelligenza artificiale: la scelta del materiale di partenza, cioè della base di dati usata per il training del sistema, può influenzare le risposte che la futura applicazione fornirà, sia essa il chatbot di un motore di ricerca, un sistema di raccomandazione usato a fini di marketing, oppure un programma usato da una banca per decidere a chi concedere un prestito.

Anche se è il frutto di un lavoro in buona fede, un programma di AI può finire per comportarsi come un “software maschilista”, come è successo anni fa nel dipartimento risorse umane di Amazon. Il caso aveva fatto scalpore: il programma deputato a scremare i curricula per i ruoli da sviluppatore assegnava, tendenzialmente, migliori punteggi ai candidati maschi. Il favoritismo era il risultato del fatto che l’algoritmo fosse stato allenato su modelli di curriculum vitae che l’azienda aveva ricevuto nell’arco di un decennio, in cui la percentuale di donne era minoritaria. Nel caso specifico, quella tecnologia serviva soltanto a fare una scrematura, lasciando la scelta finale ai selezionatori delle HR, ma ugualmente determinava un’ingiustizia sulla base del genere. Tant’è che Amazon, dopo aver provato a correggere il software, aveva poi deciso di metterlo in soffitta.

Inciampi e gaffe a parte, il problema dell’accesso alle opportunità di lavoro Ict è di proporzioni mondiali. Secondo il ”Global Gender Gap Report 2022” del World Economic Forum, a livello mondiale nel  settore tecnologico le donne sono appena il 24% degli occupati, e in tutti i settori la rappresentanza femminile tende a ridursi tra i ruoli di leadership. Guardando nello specifico un ambito tecnologico in fase di sviluppo, è illuminante anche un recente studio di Boston Consulting Group e People of Crypto Lab, focalizzato sul Web3 e basato sull’analisi di migliaia di startup che si occupano di realtà virtuale, Nft, blockchain, crittografia, pagamenti digitali e altre tecnologie abilitanti per il metaverso. Su un totale di 2.388 team fondatori, ben l’87% è composto di soli uomini, il 10% da persone di entrambi i sessi e appena il 3% di sole donne. Nel 93% dei casi la startup è stata fondata da un uomo. Se invece si guarda al totale dei collaboratori, la “quota rosa” nel campione sale al 27% ma è concentrata in ruoli non tecnici, come quelli di marketing e risorse umane. Dall’analisi è emerso anche che i team interamente maschili hanno più successo nell’ottenere finanziamenti per la startup rispetto a quelli “misti” o femminili. “I numeri sono allarmanti”,  ha commentato  Paola Scarpa, managing director e partner di Boston Consulting Group. “Oltre che una crisi di diversità questa è una crisi economica, perché così si perde l’occasione di supportare e far crescere quei business pensati per le consumatrici e non solo per i consumatori”.

Oggi i temi dell’inclusione e della diversity sono al centro dell’attenzione in molti ambiti, dalle strategie di responsabilità sociale aziendale al marketing e alla comunicazione, ma non si può certo risolvere dall’oggi al domani una questione strutturale come la carenza di donne nelle professioni Ict e più in generale nelle discipline Stem. Il disequilibrio è evidente sia all’interno dei percorsi scolastici e universitari sia, conseguentemente, nelle aziende. Come emerso da uno studio dell‘Università degli Studi di Roma “La Sapienza” del 2021, in Europa il rapporto tra donne e uomini tra i laureati in informatica è di uno a cinque; in Italia è di uno a sei.

Possiamo certamente porci la domanda se non siano le donne, per inclinazioni e scelte individuali, ad autoescludersi dall’universo Stem, scegliendo legittimamente altri campi di studio e carriera. E se non abbiano tutto il diritto di farlo senza dover essere considerate delle vittime. Ma perché la scelta del percorso di studi sia davvero libera si dovrebbe lavorare sui pregiudizi che ancora oggi, nel senso comune, portano a credere le ragazze come “meno portate” per le materie tecniche e scientifiche. Questo naturalmente non penalizza solo le studentesse e future professioniste, tagliandole fuori da opportunità di carriera, ma l’intera società. Le tecnologie che permeeranno il nostro futuro, come l’intelligenza artificiale e il metaverso, devono basarsi sulla diversità, e non solo quella di genere naturalmente. Più si fonderanno su punti di vista, esperienze di vita e identità molteplici e più riusciremo a contenere “a monte” – nella programmazione software e nella progettazione delle applicazioni – il rischio di una tecnologia che ci condiziona e plasma i nostri pensieri con punti di vista ristretti. Per contenere questo rischio “a valle”, poi, serviranno impegni collettivi (anche da parte dei vendor), meccanismi di controllo e sanzione, azioni politiche a livello nazionale e internazionale. Con l’augurio che anche in tutto questo, e non solo nelle tecnologie, le donne siano ben rappresentate.