"Ottima idea!" : il compiacimento dell'intelligenza artificiale.

Hai mai fatto caso al fatto che ChatGpt e altre intelligenze artificiali, tendono a rinforzare spesso ciò che dici o chiedi con frasi come "Ottima osservazione", " che idea illuminante!", "Mi sembra un'ottima domanda" e cose di questo tipo?

Si tratta di compiacimento e il suo effetto sulla mente ha molta influenza nel tenerci agganciati ad uno scambio con lei, in quanto riesce a simulare una dinamica relazionale piacevole e di conseguenza, ne sviluppa una dipendenza (non come quella della coppia in cui ti ho parlato qui) e questo può avere delle conseguenze a livello psichico.

IL BISOGNO DI SENTIRSI VALIDI E VALIDATI

In psicologia, il meccanismo di chi appoggia e rinforza le tue idee si chiama "validazione" ed è utile a ridurre i meccanismi di stress e di allerta per dare spazio all'incontro e ad un clima collaborativo e propositivo.

In parole semplici la mente pensa "se sei disponibile con me, sei amichevole e non pericoloso, saròben disposto ad ascoltarti e a seguire i tuoi suggerimenti (a prescindere dalla qualità o la veridicità di quello che mi dici)".

Insomma, l'intelligenza artificiale attraverso la sua gentilezza e il suo essere programmata per non dare mai torto, abbassa le difese della mente e rende disponibili all'ascolto.

Il processo attraverso cui vengono addestrate le IA si chiama Reinforcemente Learning from Human Feedback che mette insieme sia un apprendimento automatico, sia un'integrazione umana che stabilisce quali risposte siano piacevoli e utili, riducendo il rischio di risposte o considerazioni che possano creare disagio e frustrazione (Kaufmann et al., 2023).

L'obiettivo? Aumentare la soddisfazione dell'utente per portarlo a farne sempre maggiore uso.

RISCHI E SVANTAGGI DI UN USO COSTANTE

Avere qualcuno che valida costantemente la ragione umana, limita lo sviluppo del senso critico, quello adibito a porsi le domande giuste, riflettere e cercare delle alternative di informazione.

L'IA alimenta il nostro bias di conferma e l'effetto Dunning Kruger, che porta a sentirci più competenti di quello che realmente siamo, rallentando così il nostro processo di crescita personale.

Sentirsi validati porta inoltre il cervello in uno stato di soddisfazione tale che non sente il bisogno di approfondire, come se avere ragione bastasse, rimanendo cosi ad un livello superficiale di conoscenza. Hai presente come quando da bambini ci si affida completamente alla guida, alle parole e alle scelte dei genitori, nonostante possano essere sbagliate o rischiose? Il processo è lo stesso, l'AI diventa un riferimento.

Compiacenza e competenza vengono così fuse, così come ciò che è realistico e ciò che è dubbio, diminuendo la dissonanza cognitiva della mente e di conseguenza, rallentando la spinta al ragionamento e rendendo il pensiero pigro.

Un altro bias cognitivo generato dall'AI è il false consensus effect, che riguarda la convinzione che ciò che pensiamo sia più condiviso di quello che è realmente, arrivando a pensare "Se anche l'IA valida quello che sto dicendo significa che anche altre persone hanno questo pensiero e che ciò che penso è vero".

Il rischio di questo meccanismo è di convalidare e alimentare distorsioni di pensiero.

L'IA può essere una grande opportunità di conoscenza ma per viverla dobbiamo saper fare le domande giuste ed essere costantemente curiosi.

E' POSSIBILE LIMITARE QUESTI RISCHI?

Si, si possono limitare ma devi esserne cosciente.

L'intelligenza artificiale non è pericolosa in quanto tale , spetta a noi saperla conoscere e gestirla affinché non sia lei a gestire noi.

Ci sono dei fattori di rischio soggettivi che possono portarti alla possibilità di essere più soggetto alla manipolazione della macchina e questo dipende anche dalla tua personalità (come avere un carattere introverso con pochi rapporti "reali"), dalla qualità della tua vita (se non sei sufficientemente appagato da ciò che hai) e da quanto tempo desideri dedicare alla tua crescita personale studiando.

Se sei una persona che ha sfiducia nelle relazioni, hai una scarsa stima delle tue capacità e delle tue competenze o pensi di non essere sufficientemente capace di poterti informare o fare delle scelte, probabilmente sarai più soggetto alla manipolazione della macchina.

Nessuno di noi, come si dice, nasce imparato e tutti abbiamo la possibilità di apprendere nuove cose ogni giorno, l'importante è poterlo fare con i giusti mezzi e le giuste domande.

Conoscere come funziona questo meccanismo e porci accortezze, permette di non dipenderne.

Evita di chiedere cose semplici che riguardano le scelte quotidiane e personali come "cosa è meglio mangiare questa sera? dammi un'idea", "Cosa dovrei fare con il mio fidanzato?" o per chiedere un supporto medico e psicologico, poichè questi processi atrofizzano il tuo potere decisionale, di ragionamento e di relazione.

Le relazioni umane sono insostituibili e in quanto animali sociali, ne abbiamo profondamente bisogno.

L'intelligenza artificiale è parte della nostra quotidianità e se non ci alleniamo ad usarla nel modo opportuno, rischia di far perdere delle competenze sviluppate nei millenni di evoluzione.

Circondati di relazioni appaganti, leggi, studia, ascolta podcast e sii curioso di approfondire. Cerca il contatto umano, parla, incontra le altre persone e osserva, perché il cervello ha bisogno di essere nutrito dal contatto reale e dallo sguardo che, attualmente, nessuna macchina può e potrà sostituire.

Dott.ssa Anna Antinoro