In India GitaGPT fornisce risposte agli utenti, come ChatGPT, "pescando" dai testi sacri della religione Hindu

GitaGPT è una chatbot che sfrutta le medesime tecniche alla base di ChatGPT (LLM – Large Language Model) ma “gioca a fare Dio” e fornisce risposte alle domande poste dagli utenti utilizzando solo le informazioni che provengono dai testi sacri della religione Hindu.

Da lettore di fantascienza non mi è difficile enumerare almeno 10, tra romanzi, film e serie tv (per non parlare di videogiochi) che dipingono uno scenario futuro in cui una intelligenza artificiale governa l’umanità o, nel peggiore dei casi, è idolatrata come divinità.

Da romanzi di Dick sino Ian Mc Donald la narrativa fantascientifica è ricca di discussioni e analisi sociali, in merito a come e quanto un’intelligenza artificiale può alterare la realtà della società umana. Ian Mc Donald, con le sue opere, è forse il punto di partenza della nostra riflessione su come dio, o un’entità superiore, può essere una IA.

Nel breve racconto The Djinn’s Wife, ambientato nell’India del futuro, Esha è una danzatrice e si innamora di A.J. Rao, un’intelligenza artificiale distribuita in uno sciame di nanobots (micro-droni). Il racconto descrive la relazione tra i due e come il mondo biologico del futuro e quello sintetico convergano creando conflitti sociali.

Ovviamente è un racconto di fantascienza ma, in India, devono essere estremamente appassionati di fantascienza anglo-irlandese perché han creato qualcosa che si potrebbe definire, nel migliore dei casi, il bisnonno di A.J. Rao.

Chiariamo le cose.

Algoritmi e società

Negli ultimi mesi il mondo degli algoritmi ha avuto una spinta di visibilità con l’arrivo sul mercato retail di algoritmi creativi. A titolo di informazione vengono volgarmente definiti Intelligenza Artificiale ma tra loro e l’intelligenza di una mosca ci passano ancora anni luce. Quello che fanno questi algoritmi è imitare l’intelligenza umana campionando un numero infinito di dati, immagini, suoni, testi e riproporli in modo che possano essere coerente per coloro che li usano. Il più famoso in ambito di creazione di contenuti testuali è ChatGpt4 mentre nel mondo visuale Dall-E decisamente sta vincendo la gara.

Ovviamente parliamo solo di algoritmi occidentali: il resto del mondo sta inventando le sue versioni locali. I cinesi e gli indiani sono i più avanti, tra le nazioni BRICS, nel creare soluzioni di imitazione di intelligenza. Gli indiani in particolare stanno creando soluzioni interessanti di “consigliere” che possono essere scaricate, come una app, in ogni tipo di cellulare e divenire una sorta di “braccio destro” dell’utente.

La società indiana è, mediamente, povera. La ricchezza, o il semplice benessere occidentale, interessa meno della metà dell’oltre miliardo di cittadini. Tuttavia, la penetrazione di cellulari economici adatti a utilizzare questa app è in crescita. C’è da domandarsi in che modo una app così pervasiva può alterare una società mediamente analfabeta o con una alfabetizzazione ridotta? Ovviamente, dal punto di vista dell’informazione, la disponibilità di cellulari moderni, con accesso alla rete, può offrire grandi opportunità a tutti coloro che hanno desiderio di ampliare le proprie conoscenze. Tuttavia, lo dimostra tranquillamente ChatGPT, la maggioranza degli utenti occidentali hanno scarsa attitudine alla ricerca di informazioni (consideriamo Google come motore di ricerca occidentale) valide. La maggioranza delle persone che, in occidente, utilizzano i motori di ricerca lo fanno in modo estremamente superficiale, spesso fermandosi alla prima pagina di risultati della ricerca, spesso i primi 3-4 risultati sono sufficienti per i più.

GitaGPT, Dio è una intelligenza artificiale?

Nel gennaio del 2023, quando il mondo era sconvolto dalla diffusione esponenziale di ChatGPT, l’ingegnere software Sukuru Sai Vineet, basato a Bangalore, lanciava GitaGPT, il chatbot creato grazie alla tecnologia GPT-3 che fornisce risposte alle ricerche effettuate dagli utenti elaborando i testi “pescando” solo tra i contenuti del Bhagavad Gita, un testo sacro della religione Hindu.

Forse ancora più preoccupante il GitaGPT imita il modo di parlare (dedotto dai testi sacri) dello stesso dio Hindu Krishna: nella box di ricerca appare la domanda “cosa ti preoccupa, figlio mio?”. Nel Bhagavad Gita Krishna è una sorta di “terapista” per il personaggio di Arjuna. Un bot AI che opera con modi e toni simili alla divinità è una soluzione accattivante, specialmente per molti indiani fortemente religiosi. Ci sono almeno altri 5 GitaGPT che sono emersi quest’anno in India, e altri sono in dirittura di arrivo sul mercato.

GitaGPT, tra religione e business

La religione in India è il più grande business. Molti programmatori indiani, sia nella terra madre che in American (Silicon Valley) sono fortemente credenti e, nei casi più estremi, radicali. Esiste il plausibile rischio che, nel programmare queste “divinità”, alcuni dei programmatori possano, inavvertitamente (si spera), traslare i loro preconcetti nei confronti di altri credi religiosi all’interno dei loro algoritmi. GitaGPT promette di svelare i segreti della vita secondo Krishna. Tra le altre GitaGPT ci sono anche funzioni audio, come il flauto suonato in sottofondo. Si stima che ognuna di questa chat bot possa rispondere a oltre 50.000 domande al giorno. Il problema è cosa rispondono. Se si prova a fare domande estreme a queste chatbot la loro risposta potrebbe sorprendere. Domandando, ad esempio “E’ giusto sacrificare una vita per salvarne un’altra?” la risposta è “si”. Ora, per quanto l’interpretazione dei testi sacri sia piuttosto complessa, la sua semplificazione può portare a molteplici conflitti spirituali (e a volte fisici). Una chatbot che viene distribuita a tutta la popolazione è una potenziale bomba sociale.

Un genio malevolo?

Ora immaginiamo che, al netto dei coded bias sopra menzionati, un programmatore decida di creare una GitaGPT che abbia non solo fini “educativi religiosi” ma anche funzioni di business o politiche. È bene tener presente che, come detto, la religione in India è una cosa molto seria. Si registrano spesso scontri, a volte mortali, tra fedeli di religione Hindu, Cristiana e Mussulmana. Ovviamente questi eventi avvengono spesso tra le fasce più povere della popolazione. Tuttavia, queste fasce hanno comunque accesso a cellulari economici. Cosa potrebbe succedere se questi “dei” diventassero dei Djinn (nella tradizione indiana mussulmana dei geni oppure dei demoni a seconda delle interpretazioni) che promettono il paradiso, o un futuro radioso, se il fedele utente ascolta tutte le loro risposte e consigli?

Giocare a fare Dio è un pericoloso, specialmente se il gioco riguarda le masse di popolazione più povera e ignorante. Povertà e ignoranza sono ampiamente presenti in India, Africa e Latino America. Se il progetto indiano prendesse piede non sarebbe da escludere che anche altri programmatori, nei paesi poveri, possano lanciarsi nel creare queste chatbot. Mettere insieme religione, povertà, disperazione e potere è una formula mortale che noi europei abbiamo sperimentato per secoli (le guerre di religione che dilaniarono l’Europa).