“Algoritmi e sistemi di intelligenza artificiale hanno il potere di diffondere e rafforzare stereotipi di genere, che rischiano di emarginare le donne su scala globale” si legge nel Report 2020 dell’UNESCO in tema di intelligenza artificiale e parità di genere, aprendo così il dibattito su scala mondiale e anticipando quello che sarà il primo strumento normativo globale sull'etica dell'intelligenza artificiale.

Il tema dell’intelligenza artificiale e della parità di genere – o forse sarebbe più corretto dire “il tema della parità di genere nell’intelligenza artificiale” – è, da qualche tempo, sul tavolo di incontri fra esperti e di dibattiti a livello internazionale.

“Gli algoritmi e i sistemi di intelligenza artificiale hanno il potere di diffondere e rafforzare stereotipi e pregiudizi di genere, che rischiano di emarginare le donne su scala globale. Considerando la crescente presenza dell’AI nelle nostre società, questo potrebbe mettere le donne nella condizione di rimanere indietro nella sfera economica, politica e sociale”

si legge nel recente Report 2020 dell’UNESCO dal titolo “Artificial intelligence and gender equality”, che prosegue il dibattito su intelligenza artificiale e uguaglianza di genere avviato lo scorso anno dall’Organizzazione delle Nazioni Unite per l’Educazione, la Scienza e la Cultura.

Sull’argomento, la posizione dell’UNESCO è netta: promuovere l’uguaglianza di genere attraverso l’istruzione, le scienze, la cultura, l’informazione, è da sempre il cuore del suo mandato e, in linea con quella che è la sua vocazione, sostiene un approccio umanistico all’IA, volto a contribuire alla realizzazione degli obiettivi di sviluppo sostenibile e dei principi alla base dei diritti umani.

L’attenzione dell’UNESCO ai divari di genere nelle competenze digitali

Il Report 2020 “Artificial intelligence and gender equality” si basa, in realtà, su un precedente lavoro dell’UNESCO sul tema e si prefigge di portare avanti il dialogo e il confronto in merito a tale argomento con un gruppo selezionato di esperti.

Già a marzo 2019, l’UNESCO aveva pubblicato un rapporto, basato su una ricerca finanziata dal Ministero Federale per la Cooperazione e lo Sviluppo Economico tedesco, contenente le linee guida sulle azioni da intraprendere per superare divari di genere nelle competenze digitali, con un esame dell’impatto dei pregiudizi di genere presenti in alcune delle applicazioni di intelligenza artificiale più diffuse.

Le raccomandazioni riguardanti i pregiudizi di genere dell’AI – fa notare l’Organizzazione delle Nazioni Unite per l’Educazione, la Scienza e la Cultura – sono urgenti, anche alla luce della sempre maggiore diffusione di assistenti vocali digitali come, ad esempio, Alexa e Siri.

Quasi tutti gli assistenti vocali hanno nomi e voci femminili ed esprimono una personalità, un atteggiamento, che potremmo definire di “sottomissione”, si legge nel documento.

Come spiega il rapporto 2019 dell’UNESCO, questi pregiudizi sono radicati in forti squilibri di genere nell’educazione alle competenze digitali e sono il riflesso di squilibri di genere dei team tecnici che sviluppano tecnologie AI, con significative disparità di genere nei C-level e nei CDA delle aziende in cui – o per cui – tali team lavorano.

In brevissima sintesi: coloro che lavorano allo sviluppo di algoritmi e di sistemi di artificial intelligence, sono in prevalenza uomini. Così come sono in prevalenza uomini i CEO delle aziende di AI.

I contenuti di questo rapporto hanno scatenato un dibattito a livello mondiale sul “genere” della tecnologia AI e sull’importanza dell’istruzione per sviluppare le competenze digitali delle donne.

Su tale scia, l’UNESCO aveva poi programmato una conferenza di follow-up in coincidenza con la Giornata internazionale della donna, a marzo di quest’anno, annullata a causa della pandemia da Covid.

Da qui, l’esigenza di riorientare il lavoro e dare voce – attraverso questionari e interviste – a esperti internazionali di AI, tecnologia digitale e parità di genere del mondo accademico, della società civile e del settore privato.

Così è nato il Report 2020, che si propone di condividere i principali risultati dei contributi di tali esperti in merito a parità di genere e intelligenza artificiale, a fornire raccomandazioni, a fungere da guida ai settori pubblico e privato, nonché alla società civile, su come rendere operativa l’uguaglianza di genere e i principi dell’IA.

E, a novembre 2019, alla 40a sessione della Conferenza generale, gli Stati membri dell’UNESCO hanno deciso all’unanimità di incaricare l’Organizzazione di sviluppare uno strumento normativo globale sull’etica dell’intelligenza artificiale, da sottoporre alla 41a sessione della Conferenza generale, per l’approvazione nel novembre 2021.

Intelligenza artificiale e parità di genere: non esiste ancora uno strumento normativo che affronti il tema

Ad oggi, nel settore AI e nei principi etici esistenti, i riferimenti diretti all’uguaglianza di genere e all’emancipazione delle donne sono scarsi.

Quando è stato chiesto agli esperti che hanno preso parte all’indagine UNESCO se, secondo loro, esistono strumenti o principi normativi di AI che trattano di uguaglianza di genere, questi hanno risposto negativamente, affermando che sono inesistenti o insufficienti.

In particolare, Genevieve Macfarlane Smith – Associate Director, Center for Equity, Gender and Leadership, UC Berkeley Haas School of Business – ha sottolineato:

“Non ho visto alcun strumento normativo o principio di intelligenza artificiale che affronti con successo l’uguaglianza di genere e credo che questo rappresenti un grave gap“

E Sara Kassir, Senior Policy and Research Analyst dell’azienda di AI Pymetrics, aggiunge:

“Gli strumenti legali in grado di tutelare da eventuali rischi e da danni derivanti dall’utilizzo dell’AI, devono essere formalizzati, in modo che un termine come ‘etico’ venga definito formalmente”

Anche l’accessibilità all’intelligenza artificiale è emersa come principio fondamentale nei contributi dei partecipanti al dialogo avviato dall’UNESCO. Daniela Braga, Founder and CEO DefinedCrowd, ad esempio, ha fatto notare che tutti dovrebbero avere il diritto di accesso all’AI, così come accade per l’assistenza sanitaria e l’istruzione, rimarcando l’esigenza di renderla un “servizio” democratico, in cui nessuno debba essere discriminato per genere, età, etnia o grado di istruzione.

I rischi dell’AI per l’emancipazione economica delle donne

Interagiamo, ormai, quotidianamente con l’intelligenza artificiale nella nostra vita professionale e personale. E l’AI è destinata a svolgere un ruolo ancora più importante in futuro. Per questo è importante esaminare più da vicino come questa influenzerà l’uguaglianza di genere e, più in particolare le donne, le quali rappresentano oltre la metà della popolazione mondiale.

L’intelligenza artificiale – rileva il Report UNESCO – rischia di avere un impatto negativo anche sull’emancipazione economica femminile. Una recente ricerca dell‘Institute for Women’s Policy Research ha rilevato che le donne – rispetto agli uomini – corrono un rischio significativamente più elevato di ridimensionamento delle proprie mansioni in azienda o, addirittura, di perdita del posto di lavoro a causa dell’automazione delle procedure e dell’operatività.

La maggior parte di coloro che svolgono lavori in cui la macchina, il calcolatore, il sistema AI stanno progressivamente prendendo il posto dell’essere umano, ricoprono ruoli amministrativi, nella contabilità o come cassieri, dove le donne sono, ad oggi, in netta maggioranza.

Come integrare la parità di genere nei principi dell’artificial intelligence

Per integrare efficacemente l’uguaglianza di genere nei principi dell’IA, è fondamentale – si legge nel documento UNESCO – adottare un approccio basato sui diritti e intervenire sul “sistema” per colmare le lacune esistenti. In che modo? Prevedendo la partecipazione – nei processi di formulazione dei principi dell’intelligenza artificiale, della loro continua interpretazione, applicazione e monitoraggio – di più donne e di esperti in materia di parità.

Ma non solo. Oltre ad aggiungere semplicemente “donne” come gruppo target, è necessario integrare nei processi AI la “cultura della donna” e iniziare a considerare l’uguaglianza di genere come un modo di pensare, una lente, un’etica e una costante.

Di importanza strategica è, poi, il sistema educativo di ogni Paese, che deve essere in grado di definire programmi di istruzione che integrino in maniera più puntuale le scienze sociali interdisciplinari, l’etica e l’alfabetizzazione tecnologica, a livello di istruzione secondaria e terziaria, favorendo l’avvicinarsi di sempre più donne allo STEM – Science, Technology, Engineering and Mathematics.

E l’alfabetizzazione digitale deve poter, in generale, includere l’intelligenza artificiale – con attenzione agli impatti sulle donne – e, in particolare, promuovere l’accesso e la capacità di utilizzo dell’intelligenza artificiale da parte delle donne.