Guerra cognitiva: cos'è, perché è sempre più diffusa, anche grazie all’uso dell'Intelligenza Artificiale, i rischi

La guerra cognitiva è, di fatto, una riprogrammazione delle menti dei cittadini. Essa richiede una elaborata strategia di manipolazione di ogni fonte media a cui il cittadino può accedere. All’interno di questa strategia trovano spazio sia fake news che deepfake. In passato si parlava di propaganda: un’attività, di norma, piuttosto semplice. Oggi con la guerra cognitiva il campo di battaglia che deve essere conquistato e vinto diviene l’uomo stesso: in ambito militare si parla di “dominio umano”. Diversamente dal passato la guerra cognitiva non fa discriminazione tra civili e militari. Ogni uomo è indistintamente un bersaglio, una potenziale risorsa attiva (coinvolta nel conflitto) o passiva (inconsciamente coinvolta ma senza saperlo). Di “dominio umano” si può dare una definizione che abbraccia, approssimativamente, tutto il campo di battaglia: il dominio umano è l’area, il bersaglio sono le capacità cognitive dell’individuo o di una comunità, tale bersaglio viene attenzionato con tecniche e strumenti che possono alterare la sua capacità di ragionare, prendere decisioni e comportamenti, in modo da alterare l’agire e il pensare del soggetto a vantaggio dell’attaccante.

L’innovazione della “data economy” intesa come quell’economia che fa leva sui big data, è il tipo di struttura su cui opera la guerra cognitiva. Tutti i social media occidentali sono un territorio perfetto per acquisire dati in modo legale, direttamente, per inferenza o illegalmente (furto di dati privati, magari acquisiti nel dark web). Le origini di quello che Soshanna Zuboff chiama “capitalismo della sorveglianza” parte dall’acquisizione di una grande mole di dati personali o generici [per approfondire questo tema leggi “Algocrazia e capitalismo di sorveglianza: viviamo in un mondo governato dagli algoritmi” con la nostra intervista a Soshanna Zuboff – ndr].

Prima di analizzare come gli algoritmi generativi e predittivi possono ulteriormente magnificare questa strategia consideriamo gli elementi base della guerra cognitiva fatta da umani contro altri umani.

L’importanza di empatia ed emozioni nella guerra cognitiva

Il fattore emozionale è molto valorizzato dalla guerra cognitiva. I social media, e tutte le tecnologie che si possono usare facendo leva su essi, hanno una forte componente emozionale. Ogni sito internet, ogni app, ogni piattaforma sociale seria è strutturata per essere altamente emozionale. L’utilizzo dei social media per creare camera di eco, utili per amplificare fake news o deep fake news, sono di solito legate a strategie che fanno leva sulle emozioni.

Combinando i decennali studi sulle neuroscienze e le nuove tecnologie digitali si può stimolare il corpo umano a produrre neurotrasmettitori (come la dopamina, adrenalina, etc.) grazie a immagini, suoni, video. Se vogliamo un esempio di applicazioni emozionale, facendo leva sulle “droghe” biologiche create dal nostro corpo, possiamo considerare le sinergie degli e-commerce. Pensiamo, per esempio, ai rapporti stretti che legano la dopamina e le strategie di acquisti on line.  Queste sostanze prodotte dal nostro corpo sono la prima linea su cui può agire una strategia di guerra cognitiva.

Anche attenzione e ignoranza sono rilevanti nella guerra cognitiva

La guerra per l’attenzione, e il multitasking, sono altri due elementi rilevanti nella guerra cognitiva. Questi decenni saranno sicuramente ricordati come l’epoca della disattenzione globale. La capacità di focalizzarsi su un singolo tema, un singolo argomento, in un’epoca di iper-stimoli digitali, è ormai cosa rara. Quello che molti decantano come evoluzione, il multitasking, è un’attitudine che caratterizza gli esseri viventi che vivono in ambienti ostili. Vivere in un ambiente ostile richiede capacità di svolgere differenti mansioni contemporaneamente: non è un sintomo di evoluzione ma una necessità del sistema sociale in cui vivono. La capacità di focalizzarci su un singolo aspetto ha permesso alla razza umana di evolversi, partendo da uno scenario di cacciatori raccoglitori. Internet, e la sua promessa di libertà digitale, sta invertendo questo fenomeno, quanto meno a livello mentale.Il nostro modo di affrontare la rete altera il processo con cui il cervello opera: nel modo di apprendere le informazioni, classificarle, gestirle e costruire, con esse, un percorso evolutivo personale.

Aggiungiamo che la an-alfabetizzazione di ritorno, in Occidente, è in veloce crescita. L’inabilità dei cittadini di comprendere a pieno articoli o testi più lunghi di 30 righe, in America, interessa circa il 20% della popolazione. Questa deficienza cognitiva spinge sempre più cittadini ad usare fonti di informazione audio visive, più facilmente comprensibili dall’utente ma, egualmente, facilmente manipolabili grazie alle tecnologie digitali.

Memoria e scorciatoie

Ultimo aspetto da ricordare è il concetto di “memoria esterna”. Molti umani sono abituati, oltre ad applicare scorciatoie mentali inconsce, ad essere fortemente dipendenti da fonti esterne, potremmo definirli “hard disk” estesi: ricordiamo pochi elementi e facciamo affidamento su strumenti tecnologici digitali per “estendere” le nostre memorie (Internet off-loading, in gergo). Waze per ricordarci meglio le strade, Google per approfondire le notizie e così via. Ovviamente quando queste fonti vengono contaminate il cervello è hackerato sin dalle origini del processo cognitivo.

Anche la guerra cognitiva diventa più efficiente

Tutto il processo di guerra cognitiva, apparentemente semplice, richiede il dispiegamento di molte risorse: strateghi umani, fabbriche di contenuti gestiti da troll biologici, hacker, data scientist più l’hardware e il software necessario. Al momento la guerra cognitiva risulta ancora costosa ma, grazie all’arrivo di algoritmi gli investimenti necessari per questa forma di manipolazione dei cittadini diventerà sempre più economica.

Gli algoritmi predittivi e creativi, quando saranno completamente integrati nelle strategie di guerra cognitiva, magnificheranno questo tipo di conflitto in modo ampio e devastante.

La capacità di dispiegare algoritmi cognitivi, predittivi e creativi (d’ora in poi semplicemente “sintetici”) permette di ridurre drasticamente i costi umani e i tempi di generazione di contenuti. Con un qualunque test su Dall-E2 o ChatGPT4 si può osservare quante immagini o testi possono essere creati in pochi attimi e in quantità rilevanti. Sono oltre 150, in crescita, le aziende ad oggi che stanno sviluppando sintetici per differenti applicazioni algoritmiche, tra le quali anche chatbot che “giocano a fare Dio”. Consideriamo un esempio per comprendere come può essere facile generare deepfake news utilizzabili in guerra cognitiva.

Immaginiamo che la deepfake news consista in un politico che dichiara cose “plausibilmente” allineate con il suo storytelling. In questo caso è molto più facile, per un osservatore distratto, ritenere vero il contenuto e diffonderlo. Maggiore sarà l’importanza del contenuto maggiore la possibilità che esso diventi virale su media tradizionali e social media.

Facciamo un esempio usando la recente crisi ucraina: se Vladimir Putin dichiara in video che vuole distruggere l’Ucraina con armamento atomico l’ascoltatore medio potrebbe credere che questa affermazione sia veritiera (allo stato attuale un evento che non ha avuto luogo). Se Henry Kissinger, famoso consigliere di tutti i presidenti americani della guerra fredda, dichiara che per l’Ucraina si dovrà trovare un accordo che faccia felici tutti, russi compresi (evento accaduto), l’ascoltatore medio potrebbe ritenere questa informazione falsa, considerando la visione della leadership americana nei confronti del conflitto.

Ricetta perfetta con Intelligenza Artificiale aggiunta

Ora per concludere consideriamo e uniamo tutti gli elementi.

Il politico, pubblicitario, pr, lobbysta o altra entità (con desideri e strategie malevole) decide di scatenare una guerra cognitiva contro un definito gruppo di individui: una nazione.

Lo scopo della guerra cognitiva è creare i presupposti perché i leader politici, prossimi alle elezioni, non vengano democraticamente rieletti. Prima di tutto si deve creare uno studio per mappare i fenomeni sociali, culturali e politici del bersaglio. È un lavoro costoso ma, fortunatamente, dispiegando i sintetici (e varie tecniche e soluzioni basate su Intelligenza Artificiale) si può mappare differenti tendenze, nicchie e sotto nicchie dei cittadini della nazione

Poi si deve saturare la sfera cognitiva dei bersagli (l’equivalente bellico del fuoco di saturazione). È un lavoro di creazione di contenuti quotidiano. Anche in questo caso posso utilizzare dei sintetici creativi che generano contenuti scritti, audio o video di qualità in quantità massiccia.

Poi si dovranno diffondere i contenuti. È un lavoro che richiede molti troll umani. Anche in questo caso posso utilizzare algoritmi che generano account nelle maggiori piattaforme sociali e riescono a gestirli in modo veloce, con una ridotta supervisione umana.

Per mantenere aggiornate le strategie devo continuare a monitorare come il bersaglio si comporta. Sarà poi importante comprendere come la classe politica che mira a essere rieletta reagisce alla nostra guerra cognitiva. Anche in questo caso posso utilizzare sintetici che, coordinati da umani, possono interagire e mappare ogni significativo evento dell’avversario o della popolazione bersaglio.

Ovviamente un’operazione del genere, pur se addizionata di sintetici in ogni passaggio, costerà centinaia di migliaia di euro. Una cifra probabilmente ridotta se paragonata a una guerra cognitiva completamente fatta da umani.

Ovviamente influenzare le elezioni di una nazione democratica può portare a vantaggi economici che sono ben maggiori di poche centinaia di migliaia di euro investiti. Ricordiamoci che nei prossimi mesi ci saranno elezioni europee e americane.