Intelligenza artificiale per la salute: etica e governance

l’intelligenza artificiale dimostra un enorme potenziale nello sviluppo della medicina e della salute a livello globale. Il suo indirizzo deve risultare compatibile con il rispetto dei diritti umani, evitando i rischi che un utilizzo esclusivamente speculativo potrebbe inevitabilmente comportare. Uno studio condotto dall’OMS delinea sei principi fondamentali per guidare il design, lo sviluppo e l’utilizzo dell’intelligenza artificiale per la salute.

TAKEAWAY

  • L’intelligenza artificiale può rivelarsi decisiva in molte applicazioni della medicina e della farmacologia, nella direzione di garantire una copertura sanitaria globale, superando il gap e le discriminazioni esistenti tra le differenti zone socio-economiche del pianeta.
  • Per sostenere una visione eticamente condivisibile, l’OMS ha svolto uno studio biennale, i cui risultati sono stati pubblicati con il titolo di Ethics and Governance of Artificial Intelligence for Health.
  • I sei principi fondamentali sintetizzati nel report si propongono quali linee guida ed opportunità di rinnovare una fiducia nei confronti delle istituzioni che la gestione della pandemia Covid-19 ha in buona parte compromesso.

L’ascesa delle tecnologie emergenti sta portando Istituzioni e organizzazioni a sostenere iniziative mirate a dettare linee guida per un loro sviluppo sostenibile dal punto di vista etico, sociale ed economico. In questo contesto rientra l’intelligenza artificiale per la salute, oggetto di studio dell’OMS – Organizzazione Mondiale per la Sanità, che ha di recente pubblicato il report Ethics and Governance of Artificial Intelligence for Health, risultato di due anni di lavoro a cura di un gruppo di ricerca interdisciplinare che si è posto l’obiettivo di fornire delle linee guida universalmente condivisibili per lo sviluppo.

Intelligenza artificiale per la salute: una posta in gioco altissima

In tempi non troppo sospetti, Stephen Hawking sosteneva come “Il nostro futuro è una corsa tra il crescente potere della tecnologia e la saggezza con cui la utilizziamo”. La citazione del celebre scienziato britannico apre le pagine di un report molto volenteroso, un documento necessario per orientare in modo consapevole una disciplina fondamentale come l’intelligenza artificiale per la salute.

Hawking vedeva la tecnologia come un mezzo, non come un fine, responsabilizzando l’uomo quale padrone del proprio destino, capace di decidere tra i tanti futuri possibili. La tecnologia offre enormi opportunità ed al tempo stesso grandi rischi, che non possono essere trascurati.

La bioinformatica fa un crescente utilizzo delle tecniche AI per sostenere la ricerca nell’ambito della genomica, dell’epigenetica, dell’editing genetico e di molte altre discipline scientifiche, le cui scoperte possono determinare drasticamente la qualità di vita dell’intera popolazione mondiale.

L’intelligenza artificiale per la salute può assicurare un sensibile incremento nella precisione e nella velocità delle diagnosi e della cura delle malattie, oltre a garantire una drastica accelerazione nei processi di sviluppo dei nuovi farmaci. Giusto per citare due tra le centinaia di applicazioni AI possibili in ambito medico sanitario.

Le tecniche AI e la generale digitalizzazione della medicina possono inoltre favorire la riduzione del gap tra i paesi più avanzati ed i paesi in via di sviluppo, per garantire una copertura sanitaria globale, offrendo a tutta la popolazione mondiale il diritto alla salute. Lo straordinario potenziale dell’intelligenza artificiale per la salute apre una corsa all’oro che sfugge troppo spesso al controllo dei governi, per via degli enormi investimenti delle multinazionali, che per natura perseguono interessi privatistici, altamente speculativi.

La ricerca dei soggetti privati è necessaria per sostenere la crescita del settore medicale, ma va opportunamente normata affinché la sua azione risulti compatibile con il pubblico interesse, a cominciare dalle modalità di approvvigionamento dei dati clinici, oggi al centro di un business miliardario, spesso a dispetto della privacy dei singoli individui.

I governi dovranno cercare ogni soluzione possibile per cercare di normare lo sviluppo di un settore fondamentale come quello sanitario, assicurando che gli interessi del privato risultino coerenti e compatibili con gli aspetti di pubblica utilità, scongiurando ogni possibile conseguenza discriminatoria per la popolazione.

Intelligenza artificiale per la salute: i sei principi guida fondamentali dell’OMS

Per indirizzare il design delle applicazioni di intelligenza artificiale per la salute, l’OMS ha definito sei principi fondamentali, utili a “limitare i rischi e massimizzare le opportunità” derivanti dal suo utilizzo. Sulla base del contenuto descritto dal report, proponiamo la seguente sintesi:

  1. proteggere l’autonomia dell’uomo: nel contesto della salute, gli uomini dovrebbero sempre mantenere il controllo dei sistemi sanitari e delle decisioni mediche; la privacy dovrebbe essere protetta ed i pazienti dovrebbero sempre dare un consenso informato al trattamento dei loro dati clinici;
  2. promuovere il benessere, la sicurezza e l’interesse pubblico: i designer dovrebbero puntualmente soddisfare requisiti di sicurezza ed efficienza delle loro applicazioni, con un costante controllo di qualità nell’utilizzo delle tecnologie AI;
  3. assicurare la trasparenza, la spiegabilità e la comprensibilità: le informazioni relative allo sviluppo di un’applicazione di intelligenza artificiale per la salute dovrebbero essere rese accessibili a tutti e facilitate a livello divulgativo, in modo da sostenere il pubblico dibattito in merito alle modalità con cui la tecnologia viene progettata e alle modalità in cui debba o non debba essere utilizzata;
  4. promuovere la responsabilità e la consapevolezza: dal momento che la AI si concentra su compiti specifici, è opportuno che venga sempre gestita da persone altamente formate e specializzate nel suo impiego, oltre che capaci a fornite risposte a coloro che si dimostrano diffidenti rispetto alle decisioni prese dagli algoritmi di machine learning;
  5. assicurare inclusione ed equità: tale principio consiste nel garantire all’intelligenza artificiale per la salute un elevato livello di accessibilità, in modo da garantire benefici a tutti, senza distinzione di età, sesso, provenienza, etnia, orientamento sessuale e disabilità, nel pieno rispetto delle normative sui diritti umani;
  6. promuovere una AI sostenibile e responsabile: i progettisti e gli sviluppatori dei sistemi AI dovrebbero sempre garantire il minor impatto a livello ambientale, così come gli utenti dovrebbero rivelarsi attenti ai consumi energetici. I governi e le imprese dovrebbero inoltre promuovere progetti formativi, utili ad educare gli operatori sanitari nell’impiego dei sistemi AI, oltre a ricollocare le potenziali perdite occupazionali derivanti dall’automatizzazione dei processi.

Spiegare l’AI per generare fiducia nei suoi confronti

Affidare ad una macchina il potere decisionale su questioni fondamentali in tema di intelligenza artificiale per la salute, genera una naturale diffidenza, derivante dalla potenziale perdita di controllo, o più semplicemente dalla paura dell’ignoto.

Per facilitare il processo divulgativo di una materia oggettivamente complessa da comunicare, come quella algoritmica, è stata istituita la explainable artificial intelligence (XAI), o intelligenza artificiale spiegata.

Grazie all’impiego di varie metodologie, tra cui lo sviluppo di modelli semplificati, la XAI mira a spiegare ad un pubblico non tecnico il funzionamento delle reti neurali impiegate per le analisi predittive. Il lavoro degli algoritmi di machine learning viene pertanto descritto mediante grafici, diagrammi e altri strumenti di visualizzazione dei dati, capaci di far comprendere a tutti cosa succede nelle famigerate black box, le scatole nere dell’intelligenza artificiale.

La comprensione del fenomeno genera un naturale sentimento di empatia, che spinge l’uomo a fidarsi maggiormente di una tecnologia altrimenti ignota, minacciosa e spesso connotata nell’immaginario sci-fi da cui deriva gran parte della cultura tecnologica di massa.

La fantascienza ci ha proposto molte volte suggestioni di macchine capaci di sostituirsi e addirittura di annientare l’uomo, come nel caso della celebre Skynet, l’intelligenza artificiale della saga di Terminator. È un futuro possibile, ma come sosteneva Hawking, il nostro futuro dipende dalla saggezza con cui sapremo usare la tecnologia, piuttosto che subirne passivamente gli effetti.

Il futuro dell’intelligenza artificiale tra etica e credibilità delle Istituzioni

I principi fondamentali relativi all’etica e alla governance dell’intelligenza artificiale per la salute rientrano nel contesto di iniziative più generaliste, come il nuovo regolamento sull’intelligenza artificiale, promosso dalla UE e pubblicato in prima stesura dalla Commissione Europea il 21 aprile 2021.

Non vi è una stretta dipendenza tra le iniziative, e tantomeno un obiettivo dichiarato, ma la pubblicazione del report da parte dell’OMS appare come un’occasione di riscatto reputazionale, per un’organizzazione finita nell’occhio del ciclone durante la pandemia Covid-19, quando la condotta dimostrata ha messo in evidenza una clamorosa impreparazione nei confronti di uno scenario che qualsiasi B-movie americano che si rispetti aveva ampiamente previsto da tempo, senza peraltro scomodare i cervelloni e i miliardi contribuiti dai paesi membri.

Gli errori e le drammatiche sottostime dell’OMS in merito alla pandemia Covid-19 hanno generato nell’opinione pubblica un generale sentimento di sfiducia, che ha progressivamente coinvolto anche i governi dei singoli paesi, traditi dall’impreparazione di chi avrebbe dovuto garantire loro competenze e procedure all’altezza della situazione.

Il mondo intero ha pagato il conto di tante vittime, sociali ed economiche, che si sarebbero potute evitare, se ad esempio fossero stati impiegati dei modelli predittivi basati sulla AI, anziché iniziare a porsi il problema quando ormai il fenomeno era ormai del tutto fuori controllo.

Un utilizzo etico e sostenibile della tecnologia potrebbe consentire di affrontare con successo scenari di enorme complessità, la cui conoscenza va ben oltre le possibilità umane. Tale considerazione non riguarda soltanto l’intelligenza artificiale.

Si pensi ad esempio al potenziale contributo della blockchain nel garantire la trasparenza nelle procedure, smascherando le ingerenze dei governi locali, la manomissione o l’insabbiamento dei documenti pubblicati oltre agli enormi conflitti di interesse che intervengono nelle questioni di carattere sanitario globali.

I sei principi per il design e l’uso dell’intelligenza artificiale per la salute costituiscono una sfidante base di ripartenza per ritrovare la credibilità smarrita e quella visione positiva che i recenti eventi hanno drammaticamente condizionato, per ripartire nella corsa verso il futuro profetizzata da Stephen Hawking.

Default image
Francesco La Trofa
Da vent’anni attivo nella ricerca relativa alle tecnologie 3D, divulgatore sul tema delle applicazioni enterprise di tali tecnologie e autore di “VR Developer. Il creatore di contenuti in realtà virtuale ed aumentata” (2018), edito da Franco Angeli (vrdeveloper.info). Scrive di IT anche per il portale https://www.sergentelorusso.it/
Articles: 33