A una settimana dal via libera del Consiglio dei Ministri UE all’AI Act, il manifesto sull’etica della tecnologia di uno studioso dell'Universitat Oberta de Catalunya offre lo spunto a una nuova riflessione in materia, che rovescia il paradigma esistente per considerare l’utilizzo stesso della tecnologia come “spazio” dal quale trarre effetti eticamente benefici per la nostra società.

Più che un “lavoro in corso”, il pensiero attorno all’etica della tecnologia – e il dibattito che ne deriva – rappresentano un processo continuo, senza scadenze temporali. Un processo che, da sempre, segue parallelo quello dell’evoluzione tecnico-scientifica dell’umanità.

Per quanto attiene, nello specifico, all’etica dell’AI, a un anno dall’adozione del documento di Raccomandazione sull’etica dell’Intelligenza Artificiale (25 novembre 2021) da parte dell’UNESCO, che – lo ricordiamo – è stato il primo testo mondiale accettato e ratificato globalmente da tutti gli Stati membri ONU, segnando una tappa importante nel percorso di definizione di standard condivisi, tesi a proteggere e a promuovere i diritti umani di fronte all’utilizzo di sistemi che impiegano le tecniche di artificial intelligence, la stessa Organizzazione delle Nazioni Unite per l’Educazione, la Scienza e la Cultura, il 5 e il 6 dicembre 2022, ha riunito Ministri dell’Educazione, insegnanti, ricercatori e aziende AI in seno al suo International Forum on AI and Education, dedicato, in particolare, all’adozione (sicura e non lesiva per gli studenti) dell’intelligenza artificiale nella pratica didattica. E il 7 dicembre 2022 – tappa decisiva sul fronte europeo – il Consiglio dei Ministri UE ha dato finalmente via libera all’AI Act, legge sull’intelligenza artificiale proposta dalla Commissione Europea ad aprile del 2021, con l’obiettivo di garantire, negli Stati dell’Unione, «sistemi AI sicuri e trasparenti».

In questo scenario, sempre più pluridisciplinare, che ben fotografa l’impegno, a livello globale, nell’analizzare gli impatti che la tecnologia e gli algoritmi hanno sulla vita di chi ne fa quotidianamente uso, si è da qualche mese inserita una nuova voce, che non ha certo la pretesa di imprimere una linea differente al dibattito in materia, ma che offre lo spunto a nuove e interessanti riflessioni.

«Guardando alla tecnologia, a coloro che ne fanno uso e alle interazioni tra la prima e i secondi come a un “sistema”, la tecnologia può essere vista come lo spazio in cui avviene la maggior parte della pratica quotidiana dei suoi utenti. E, proprio attraverso questa pratica, le persone possono avere la possibilità di sviluppare e di accrescere la loro consapevolezza etica, la loro sensibilità e la capacità di ragionamento»

si legge nel documento Ethical Idealism, Technology and Practice: a Manifesto”, a cura della Facoltà di Informatica, Multimedia e Telecomunicazioni dell’Universitat Oberta de Catalunya (UOC), che fornisce le indicazioni necessarie per porre una domanda complementare sull’etica della tecnologia e, dunque, anche sull’etica dell’intelligenza artificiale.

Domanda che si focalizza, anziché sulla “protezione” degli utenti dai potenziali pericoli (più o meno realistici) legati all’impiego delle nuove tecnologie, sulla loro responsabilizzazione, concependo l’utilizzo della tecnologia come lo “spazio” in cui fare accadere «lo sviluppo della loro saggezza pratica, intesa nel senso dell’etica della virtù».

Etica della tecnologia: un paradigma alternativo

Il manifesto dell’UOC sull’etica della tecnologia possiede un assunto di base, ovvero che l’analisi delle implicazioni etiche correlate alla progettazione di nuove tecnologie e, in particolare, allo sviluppo di strumenti basati sull’intelligenza artificiale, è sì di fondamentale importanza, ma la maggior parte dei lavori in materia – sottolinea l’autore, Joan Casas-Roma – si concentra sulla «identificazione preventiva dei potenziali usi dannosi dell’AI, quando invece le tecnologie guidate dall’AI possono anche portare numerosi effetti eticamente benefici alla nostra società».

Dove per “effetti benefici” non si intendono quelli basati sugli “obiettivi” che un particolare strumento tecnologico potrebbe porsi, riferiti – ad esempio – al problema che questo cerca di risolvere, alla situazione che mira ad affrontare o al servizio che offre, ma quelli generati dal modo in cui le tecnologie (tra cui l’AI) potrebbero essere utilizzate, indipendentemente dal loro scopo prefissato.

Emblematico è il riferimento ai social media, in cui gli utenti – ad esempio – potrebbero connettersi per aiutarsi a vicenda in un programma di studio o per fornire supporto ad altri utenti affetti da un disturbo psichico oppure per organizzare un atto di protesta sociale.

Il fulcro del nuovo approccio alle questioni etiche sollevate dall’AI, quindi, si concentra sugli usi, sulle facilitazioni e sulle interazioni create dalla tecnologia, nonché su come i suoi utenti potrebbero beneficiare di azioni, comportamenti e riflessioni potenzialmente indotti da tali usi.

Idealismo etico della tecnologia: alcune applicazioni pratiche

Concependo l’interrelazione tra tecnologia, utenti e usi come “sistema” e tale sistema come spazio – spiega l’autore del manifesto di quella che egli stesso ha definito «questione etica idealista dell’etica della tecnologia» – le soluzioni e gli strumenti offerti dalla tecnologia «possono essere modellati in modi che consentano e promuovano azioni, comportamenti e abitudini a sostegno di principi eticamente desiderabili».

Per illustrare come avviene la modellazione degli strumenti tecnologici, alla base dell’idealismo etico proposto da Joan Casas-Roma, un esempio illustrato nel paper è dato dai giochi digitali di ultima generazione, le cui dinamiche e i cui meccanismi possono, in determinati casi, essere in grado – secondo l’autore – di incoraggiare negli utenti comportamenti legati a principi etici, dando così l’opportunità di impegnarsi in azioni che supportano tali principi.

Rientra tra i “determinati casi”, quello di un’esperienza di gioco in cui gli utenti si trovano di fronte a un personaggio finale estremamente potente e ingiusto col quale sono chiamati a combattere.

In questo caso, i messaggi da parte di anonimi che, in precedenza, sono riusciti a sconfiggere il “potente”, incoraggiano il giocatore di turno a continuare il proprio combattimento. E se, alla fine, uno degli anonimi, facendo il sacrificio di cancellare completamente i file di gioco salvati e tutti i progressi e i premi acquisiti, concede al giocatore qualcosa che lo renderà il personaggio più potente all’interno del gioco, a quel punto, al giocatore stesso verrà posto di fronte alla medesima scelta, ossia sacrificare tutti i suoi progressi di gioco per aiutare un giocatore anonimo, restituendo l’atto di altruismo e di generosità ricevuto.

«Sebbene questo esempio non sia correlato a nessuna particolare convenienza creata dalle interazioni disponibili della tecnologia, mostra come alcuni principi etici come il sacrificio, il senso della comunità e l’altruismo possano essere integrati nelle decisioni incluse all’interno della tecnologia, in questo caso all’interno delle decisioni disponibili come parte della finzione del gioco, ma che vanno oltre la finzione stessa» osserva Casas-Roma

Etica della tecnologia: esempi di cooperazione e di comunità nell’apprendimento online

In tema di etica della tecnologia, un altro esempio di applicazione pratica di idealismo etico proviene dal campo dell’istruzione supportata da piattaforme digitali come i corsi di apprendimento online.

Mentre le piattaforme in cui questi corsi vengono svolti includono sempre numerose funzionalità (tra cui accesso a materiali didattici, esercizi e comunicazione), le modalità in cui essi vengono forniti è in grado di cambiare in maniera significativa il modo in cui gli studenti interagiscono con l’ambiente di apprendimento e il modo in cui interagiscono tra loro.

Nel paper si fa riferimento, in particolare, agli esercizi di autovalutazione all’interno dei campus virtuali, che gli studenti, in genere, eseguono individualmente. La questione che si pone l’autore riguarda il modo in cui poter aggiungere la prospettiva di idealismo etico a questa funzionalità già esistente:

«Poiché negli ambienti di apprendimento online gli studenti si sentono in qualche modo isolati rispetto al resto dei compagni, supponiamo di dover promuovere un senso di comunità e di cooperazione tra loro. A tale riguardo, come potrebbe essere modificato il design della funzionalità di quella piattaforma per modellare le interazioni tra agli studenti?»

L’obiettivo che, in questo caso, si vuole raggiungere prevede che, per un’ipotetica domanda per la quale lo studente ha ottenuto una risposta errata, un altro studente, la cui risposta era giusta, abbia la possibilità di condividere la propria risposta (una volta terminata l’attività) e di fornire al primo studente una breve spiegazione sul ragionamento che vi è alla base.

Anche se questa ulteriore funzione non va a sostituire l’intervento dell’insegnante, volto ad aiutare ogni studente, «essa può portare a interazioni che favoriscono la creazione di un senso di comunità e di una mentalità cooperativa, come risultato del riunire gli studenti per condividere (e aiutarsi a vicenda) alcune parti del proprio processo di apprendimento» fa notare Joan Casas-Roma.

Riflessioni conclusive

Quello illustrato è solo una breve sintesi del più ampio manifesto sull’etica della tecnologia dell’Universitat Oberta de Catalunya. Si tratta di un approccio nuovo, che non poggia (per il momento) su una metodologia precisa, né su una successione di passaggi da seguire. Diciamo che, attualmente, si pone quale cambiamento di paradigma nel modo di pensare l’intera gamma di opportunità eticamente rilevanti che la tecnologia può offrire.

«L’approccio idealista etico non intende sostituire, ma piuttosto integrare l’approccio attuale. Non si tratta di un metodo, ma piuttosto di una mentalità. Non si tratta di come funziona la tecnologia, ma piuttosto di come viene utilizzata» è il pensiero dell’autore.

Il terreno di partenza è dato dal riconoscere la tecnologia come uno dei principali spazi di interazione nella nostra società, dal comprendere come gli utenti utilizzano strumenti digitali e sistemi AI e dal responsabilizzarli attraverso questi usi, «modellando il sistema di interazioni tecnologiche in modi che consentano il tipo di pratica richiesta per coltivare sensibilità, consapevolezza e ragionamento etici».

Tale approccio richiede, da parte di tutti coloro i quali ne sono coinvolti, di assumere una mentalità esplorativa e creativa, al fine di prevedere e di comprendere come le tecnologie possano essere utilizzate per tali scopi, affinché abilitino e stimolino azioni, comportamenti e interazioni a sostegno di principi eticamente desiderabili, praticati nel contesto in cui tale tecnologia verrà impiegata.

Scritto da:

Paola Cozzi

Caporedattrice Leggi articoli Guarda il profilo Linkedin