AI emotiva: come le giovani generazioni percepiscono la raccolta automatica dei dati relativi ai loro stati d’animo

I risultati di un recente sondaggio su un campione eterogeneo di 1015 intervistati post-millennial provenienti da 48 paesi del mondo fornisce un contributo interessante alla letteratura sul rapporto tra le nuove generazioni e le tecniche di intelligenza artificiale per la raccolta di dati che riguardano emozioni e stati d’animo.

TAKEAWAY

  • I ricercatori di due Atenei – giapponese e vietnamita – hanno indagato il modo di porsi nei confronti delle tecniche di intelligenza artificiale emotiva da parte dei giovani appartenenti alla Generazione Z, più inclini a rimanere connessi per molte ore al giorno e a fare uso di app, social network e piattaforme in cui vengono raccolte e tracciate diverse tipologie di dati personali.
  • Tra i risultati del sondaggio particolarmente significativi, quelli che vedono le variabili correlate a un reddito più elevato e a un maggiore senso di “percepita facilità” nell’utilizzare le tecnologie, alla base di un atteggiamento più accettante nei riguardi della Non-Conscious Data Collection mediante tecniche AI.
  • La ricerca futura sul tema dovrà partire da questi primi risultati emersi, per poi allargare il campione rappresentativo e focalizzarsi sugli aspetti psico-emotivi alla radice di paure e timori nei riguardi delle tecnologie più evolute.

Da alcuni anni si guarda con sempre maggiore interesse all’impiego delle tecniche di intelligenza artificiale non solo per il riconoscimento e il tracciamento di gusti, interessi e tendenze degli utenti online per finalità di marketing, bensì anche delle loro emozioni e dei loro stati d’animo attraverso, ad esempio, l’analisi del linguaggio utilizzato su Web, così come delle immagini e dei video condivisi, fino ad arrivare – nei sistemi più evoluti – all’analisi dei dati biometrici, tra cui mimica del volto, tono della voce, frequenza cardiaca e ritmo della respirazione.

Stiamo parlando di quella che comunemente viene denominata “intelligenza artificiale emotiva”, il cui obiettivo – grazie a macchine capaci di identificare automaticamente il “sentire”, il mood delle persone con le quali entrano in contatto e di adattarvisi – è arrivare a connettersi in profondità con ogni utente.

Gli autori dello studio dal titolo “Rethinking technological acceptance in the age of emotional AI: Surveying Gen Z (Zoomer) attitudes toward non-conscious data collection” – tra cui i ricercatori della Ritsumeikan Asia Pacific University di Beppu, in Giappone, del Centre for Interdisciplinary Social Research presso la Phenikaa University di Hanoi, in Vietnam, e della Vietnam Academy of Social Sciences – parlano, a tale proposito, di «dispositivi e di software AI coinvolti in un’ampia gamma di raccolte di “Non-Conscious Data Collection” (NCDC) – tra cui frequenza cardiaca e respiratoria, andatura del corpo, espressioni micro-facciali, gesti, toni della voce e livelli di temperatura cutanea – in modo da personalizzare accuratamente le loro risposte in base al contesto individuale e situazionale».

Tra le svariate applicazioni di carattere commerciale dell’AI emotiva, essi citano «l’analizzatore di toni vocali di Spotify, che suggerisce playlist in base all’umore dell’utente; l’auto intelligente di Honda, che rileva se un guidatore è assonnato o stressato e il software di elaborazione di testi che misura il tono della comunicazione email».

Ma non solo. Aziende a caccia di talenti come Accenture – fa notare il team di studio – «utilizzano tecnologie di tracciamento delle emozioni per trovare i candidati più adatti». E aziende come Humanyze – si legge nel documento che illustra lo studio – «analizzano le dinamiche sociali nei luoghi di lavoro attraverso dispositivi indossabili Bluetooth che tengono traccia dei movimenti e delle interazioni dei dipendenti».

Si parla di intelligenza artificiale e riconoscimento delle emozioni anche in ambito medico, col fine di compensare l’aumento dei costi dell’assistenza sanitaria e gestire meglio l’invecchiamento della popolazione: ad esempio – proseguono i ricercatori – «il Servizio sanitario nazionale del Regno Unito sta investendo in agenti di conversazione basati sull’AI per fornire consulenza medica online. E a Singapore un’agenzia di servizi sociali ha sviluppato un software di riconoscimento facciale per fornire una diagnosi precoce di depressione, ansia e declino cognitivo negli anziani».

Per non parlare delle tecnologie di intelligenza artificiale emotiva per la prevenzione della criminalità, «con software di videosorveglianza in grado di rilevare intenzioni dannose analizzando i micromovimenti della testa dei soggetti, tra cui – citano gli autori – quello fornito agli organizzatori delle Olimpiadi di Soichi e Tokyo e quello attualmente installato nelle centrali nucleari e negli aeroporti di Russia e Giappone».

Intelligenza artificiale e riconoscimento delle emozioni: le implicazioni etiche

È facile intuire come, in materia di intelligenza artificiale e riconoscimento delle emozioni, la “Non-Conscious Data Collection” (NCDC) sollevi, a livello globale, a prescindere dal corpo di normative sulla privacy del singolo paese, enormi preoccupazioni e dubbi di carattere etico, relativi principalmente al rispetto dei principi di equità e di accuratezza nel trattamento dei dati raccolti dai sistemi AI e al rischio di un loro uso improprio.

La questione rimarca l’urgenza di riflessioni profonde da parte di gruppi interdisciplinari appositamente creati – formati da eticisti, giuristi, sviluppatori AI, psicologi, decisori politici – per valutarne gli impatti sulla sfera psico-emotiva dell’individuo e sul suo stile di vita.

In seconda battuta – osserva il gruppo di ricerca – «molte tecnologie di intelligenza artificiale emotiva si basano sulla teoria dell’ “universalità delle emozioni”, elaborata dallo psicologo statunitense Paul Eckman negli anni Novanta e oggi ampiamente screditata, che presuppone che l’espressione delle emozioni umane rimanga costante da una cultura all’altra».

A tale riguardo, permane tuttavia la mancanza di consenso all’interno della comunità scientifica su cosa siano “le emozioni” e su come queste possano essere misurate accuratamente ed esiste il nodo rappresentato da «algoritmi di intelligenza artificiale raramente ricalibrati per differenze razziali, etniche, di genere e, soprattutto, culturali».

È la Gen Z la fascia demografica più vulnerabile alla Non-Conscious Data Collection da parte dei sistemi AI

In tema di intelligenza artificiale e riconoscimento delle emozioni, considerata l’attuale mancanza di accordi normativi a livello internazionale sulla raccolta automatica dei cosiddetti “dai non consci” (Non-Conscious Data Collection) e il rischio di pregiudizi e discriminazioni algoritmiche che ne derivano, oltre alla “sorveglianza” alla quale si è sottoposti accettando passivamente le tecnologie di tracciamento degli stati d’animo e alla relativa perdita della privacy, gli autori dello studio hanno individuato nei dati e nelle informazioni condivisi online da parte della generazione dei nati tra il 1997 e il 2012 – ossia la Generazione Z o Gen Z – quelli maggiormente esposti, a livello globale, agli impatti negativi dell’AI emotiva, il cui settore globale «dovrebbe quasi raddoppiare, da $ 19,5 miliardi nel 2020 a $ 37,1 miliardi entro la fine del 2022».

La Gen Z – sottolinea il team – proprio perché rappresenta quella fascia della popolazione mondiale con tassi più elevati di solitudine, depressione e ansia e più di altre tendente a trascorrere molto tempo connessa, è quella più soggetta a subire l’invasività della sorveglianza biometrica tesa al rilevamento degli stati emotivi.

Da qui l’interesse (e l’urgenza) dei ricercatori dell’Ateneo giapponese (Ritsumeikan Asia Pacific University) e dell’Ateneo vietnamita (Phenikaa University) di comprendere meglio le implicazioni di tali tecnologie su questo gruppo considerato “a rischio”, per poi poter sviluppare strategie e definire misure atte a tutelarlo.

In particolare, la ricerca – descritta nel documento citato – ha preso il via da alcune domande specifiche, tra cui quelle che riguardano i fattori socio-culturali che influenzano l’atteggiamento di un individuo nei confronti delle tecnologie AI di riconoscimento delle emozioni e la predisposizione verso le macchine che raccolgono informazioni sugli stati d’animo schierate dai Governi rispetto a quelle proposte dai privati. Ma entriamo nel vivo del lavoro realizzato dal gruppo di studio.

Il progetto di ricerca in tema di intelligenza artificiale e riconoscimento delle emozioni

Per esplorare gli atteggiamenti, le opinioni e le percezioni della Gen Z riguardo all’intelligenza artificiale e al riconoscimento delle emozioni e, dunque, alla Non-Conscious Data Collection, il team ha intervistato 1015 ragazzi provenienti da 48 paesi del mondo.

Nel dettaglio, il sondaggio (del tutto anonimo) è stato distribuito in quattordici classi online tra luglio e dicembre 2020, presso la Ritsumeikan Asia Pacific University, Ateneo che vanta il più grande campus internazionale del Giappone, con studenti post-millennial provenienti da ben 91 paesi del mondo.

Un primo dato significativo emerso concerne l’atteggiamento dei giovani intervistati in merito alla raccolta e all’analisi, nei settori pubblico e privato, per mezzo di sistemi di intelligenza artificiale, dei dati relativi a loro emozioni e stati d’animo. 

I risultati empirici mostrano un livello di preoccupazione relativamente alto per tale pratica, con oltre il 50% degli intervistati che si dice “poco preoccupato” e “molto preoccupato” a tutte e quattro le domande del sondaggio:

Grafico che illustra il livello di preoccupazione degli intervistati della Gen Z per la raccolta e l'analisi, nei settori pubblico e privato, per mezzo di sistemi AI, dei dati relativi a emozioni e stati d’animo (Fonte: “Rethinking technological acceptance in the age of emotional AI: Surveying Gen Z (Zoomer) attitudes toward non-conscious data collection” - Ritsumeikan Asia Pacific University, Centre for Interdisciplinary Social Research presso la Phenikaa University di Hanoi, e Vietnam Academy of Social Sciences - https://www.sciencedirect.com/science/article/pii/S0160791X2200152X?via%3Dihub).
Livello di preoccupazione degli intervistati della Gen Z per la raccolta e l’analisi – nei settori pubblico e privato, per mezzo di sistemi AI – dei dati relativi a emozioni e stati d’animo (Fonte: “Rethinking technological acceptance in the age of emotional AI: Surveying Gen Z (Zoomer) attitudes toward non-conscious data collection” – Ritsumeikan Asia Pacific University, Centre for Interdisciplinary Social Research presso la Phenikaa University di Hanoi, e Vietnam Academy of Social Sciences – https://www.sciencedirect.com/science/article/pii/S0160791X2200152X?via%3Dihub).

«Poiché non esistono studi simili che quantificano le differenze di atteggiamento nei confronti del Governo rispetto alla raccolta di dati da parte del settore privato, è difficile confrontare i nostri risultati con la letteratura attuale» spiegano gli autori.

Pertanto – osservano – il perché non vi sia una netta differenza tra atteggiamenti e percezioni nei confronti della raccolta e dell’analisi di emozioni e stati d’animo nei settori pubblico e privato, potrebbe indicare una caratteristica propria del campione della Gen Z: «potrebbe essere un segno di rassegnazione all’inevitabilità che le tecnologie di intelligenza artificiale diventino un elemento permanente nella nostra società, poiché circa il 30% degli intervistati è neutrale e il 20% non si preoccupa affatto della raccolta di dati emotivi effettuata dal governo o dal settore pubblico».

Gli intervistati maschi sono sembrati più favorevoli alla Non-Conscious Data Collection: 47,14% nel caso della raccolta di dati da parte del governo rispetto, 50,36% nel settore privato. Al contrario, per le giovani intervistate le percentuali sono rispettivamente del 30,06 e del 34,78.

Un altro dato interessante della prima parte del sondaggio vede gli intervistati della Generazione Z dell’Asia orientale e dell’Asia meridionale più inclini a provare poca o nessuna ansia per la raccolta di Non-Conscious Data. Nel complesso, i paesi del sud-est asiatico sono sembrati i meno preoccupati da tale fenomeno, probabilmente per l’assenza – in quelle aree – di una vera e propria cultura in materia di privacy e riservatezza dei dati personali.

Focus sui risultati più significativi del sondaggio

Tra i molteplici dati emersi dalla ricerca in materia di intelligenza artificiale e riconoscimento delle emozioni – che è possibile approfondire consultando il documento citato all’inizio – ve ne sono alcuni particolarmente inediti, che meritano una riflessione in questa sede.

«Quando si tratta di una nuova tecnologia, i privilegi sociali comportano maggiori vantaggi per i singoli utenti, spiegando così come variabili correlate a un reddito più elevato siano alla base di un atteggiamento più accettante nei confronti della Non-Conscious Data Collection mediante tecniche AI» precisano i ricercatori.

Di conseguenza, è più probabile che i ragazzi provenienti da famiglie con un reddito più elevato siano i primi ad accettare senza alcun timore anche tecnologie invasive per la raccolta di dati sui loro stati d’animo, «in base al semplice fatto che possono permettersi le tecnologie emergenti e sono, quindi, più preparati e informati sui loro vantaggi e sui possibili rischi».

Un’altra considerazione che va fatta dopo la lettura dei risultati della ricerca, ha a che vedere col genere e, più in particolare, col fatto che i ragazzi intervistati – rispetto alle ragazze – sono apparsi come più convinti «dell’autoefficacia tecnologica, ovvero più sicuri delle proprie capacità di padroneggiare le nuove tecnologie». E sono anche risultati meno esposti ai pericoli del bias algoritmico.

Preme, in questo caso ricordare come, in generale, il settore dell’AI e l’istruzione relativa alle materie STEM – Science, Technology, Engineering and Mathematics – siano attualmente, a livello globale, ancora dominate dai maschi. Il team rammenta, a tale proposito, che, «secondo il rapporto 2020 dell’Istituto europeo per l’uguaglianza di genere, nell’UE solo due specialisti ICT su dieci sono donne».

Questi fattori contribuiscono a un maggiore senso di percepita facilità di utilizzo tra gli intervistati di sesso maschile, il che spiegherebbe il loro più alto tasso di accettazione delle tecnologie che coinvolgono la Non-Conscious Data Collection.

Un altro aspetto del rapporto tra le tecniche AI per il riconoscimento e l’analisi delle emozioni e la Generazioni Z – maggiorente incline a rimanere connessa per molte ore al giorno e a fare uso di app, social network e piattaforme in cui vengono raccolti e tracciati i loro dati personali, compresi quelli relativi ai loro stati d’animo – fa riferimento alla fede religiosa del campione preso in esame.

«Gli intervistati che si considerano religiosi generalmente diffidano della Non-Conscious Data Collection – puntualizzano gli autori del sondaggio – con i giovani di fede buddista che tendono a mostrare un atteggiamento più ambiguo e le identità cristiane e musulmane correlate, invece, a un atteggiamento più negativo nei confronti dell’intelligenza artificiale emotiva».

Intelligenza artificiale e riconoscimento delle emozioni: le future direzioni della ricerca

Lo studio illustrato in tema di intelligenza artificiale e riconoscimento delle emozioni, sebbene originale per argomento e metodologia e benché conduca a osservazioni di rilievo, presenta comunque risultati che sarebbe incauto generalizzare. In primo luogo – nota il team – perché il campione prescelto è assai specifico e limitato a un segmento della società, vale a dire a studenti nazionali e stranieri che frequentano un’università internazionale in Giappone.

In secondo luogo, «pur avendo provato a condurre il sondaggio nelle classi introduttive, dove normalmente si trovano gruppi di studenti ampi e diversificati, non abbiamo utilizzato un metodo randomizzato, portando così alcuni gruppi etnici a essere sovrarappresentati all’interno del campione, in particolare gli studenti dell’Asia sud-est e dell’Asia orientale».

Tuttavia, la ricerca costituisce un primo importante tassello di un filone di studi tutto sommato recente, privo di letteratura significativa al riguardo, mettendo sostanzialmente in luce come l’atteggiamento della Gen Z nei confronti della raccolta di dati sulle loro emozioni e stati d’animo sia una questione sfaccettata, caratterizzati da più variabili incrociate tra loro.

«La nostra analisi statistica mette in luce l’importanza dei fattori interculturali, religiosi e inerenti al regime politico del paese di origine nell’esaminare il modo di porsi, di percepire e di accettare le tecniche di intelligenza artificiale che tracciano le emozioni umane».

Ma non solo. Questa analisi è fondamentale per inquadrare i potenziali rischi di una tecnologia che arriva a captare atteggiamenti non intenzionali, inconsci, da parte dell’essere umano, e per pensare a una governance efficace e a una progettazione etica dell’IA emotiva.

La ricerca futura sul tema dovrà partire da qui, ampliando il campione rappresentativo e andando a indagare gli aspetti psico-emotivi alla radice di paure e timori nei riguardi delle tecnologie più evolute e, in taluni casi, invasive.

Immagine predefinita
Paola Cozzi

Giornalista dal solido background acquisito lavorando presso i più prestigiosi Editori italiani | Ventidue anni di esperienza nello sviluppo di prodotti editoriali b2b, cartacei e digitali | Vent'anni alla direzione di una testata b2b in tema di Sicurezza anticrimine di tipo fisico | Attualmente si dedica al Giornalismo Digitale ed esplora nuove tecniche e nuovi stili di comunicazione

Articoli: 290

Newsletter Updates

Inserisci il tuo indirizzo email qui sotto per iscriverti alla nostra newsletter