Un recente articolo pubblicato sul Jama valuta aspetti contraddittori e talora inquietanti del crescente e poco controllato uso della Intelligenza Artificiale in psichiatria(1)
Perlis, l’autore dell’interesssante articolo parte da una constatazione: in medicina si parla spesso dell’IA come di una tecnologia “trasformativa”. Tuttavia, nel campo della salute mentale, trasformazione non significa automaticamente miglioramento. La psichiatria e la psicoterapia soffrono ancora di seri problemi strutturali: difficoltà di accesso alle cure, disomogeneità diagnostica, variabilità della qualità degli interventi, limiti delle terapie disponibili e scarsità di professionisti formati.
L’IA potrebbe aiutare a correggere alcuni di questi problemi, ma potrebbe anche crearne di nuovi. L’autore invita quindi ad evitare sia l’entusiasmo ingenuo sia il rifiuto pregiudiziale: la questione decisiva non è se usare o non usare l’IA, ma come, con quali controlli, con quali limiti ed a beneficio di chi.

Le potenzialità positive dell’IA in salute mentale
Il primo grande vantaggio riguarda l’accesso alle cure. Molti pazienti non riescono a ricevere rapidamente una psicoterapia evidence-based, come la terapia cognitivo-comportamentale. Chatbot basati su modelli linguistici potrebbero fornire interventi di primo livello, insegnare tecniche di base, proporre esercizi strutturati e sostenere pazienti con sintomi lievi o moderati. Questo non significherebbe sostituire lo psicoterapeuta, ma alleggerire il sistema, permettendo ai terapeuti umani di concentrarsi sui casi più complessi. L’autore cita studi preliminari che suggeriscono possibili benefici dei chatbot terapeutici, pur sottolineando che molte evidenze sono ancora limitate e spesso basate su confronti con liste d’attesa, non con trattamenti umani ben condotti.
Un secondo campo promettente è il supporto alle decisioni cliniche. Sistemi basati su IA, soprattutto se integrati con linee guida tramite retrieval augmented generation (RAG), potrebbero aiutare il medico a scegliere il trattamento successivo più appropriato, per esempio nei disturbi dell’umore. Questo potrebbe essere particolarmente utile in medicina generale, dove molti pazienti con depressione, ansia, insonnia o disturbi somatoformi vengono seguiti senza un immediato invio specialistico. ( NOTA IMPORTANTE: La Retrieval-Augmented Generation (RAG) è una tecnica di intelligenza artificiale che migliora le risposte dei modelli linguistici (LLM) unendo due fasi principali: il recupero delle informazioni da una "nuova" fonte esterna e la generazione del testo basata anche su quei dati specifici. Nel caso nostro tramite RAG si aggiorna il LLM-ad esempio con nuove linee guida-che vengono proposte al LLM che le inserisce nell'insieme dei dati da valutare prima di elaborare le risposte )
Un terzo ambito è quello amministrativo-organizzativo: trascrizione automatica delle visite, generazione di note cliniche, raccolta preliminare dell’anamnesi, richieste di autorizzazione, lettere di invio. In teoria, questi strumenti potrebbero ridurre il carico burocratico e restituire tempo alla relazione clinica.
Infine, l’IA potrebbe migliorare diagnosi, monitoraggio e ricerca: analisi di dati passivi, stratificazione del rischio, identificazione precoce di peggioramenti, valutazione sistematica degli outcome e sviluppo di nuovi interventi psicoterapeutici o farmacologici.

I rischi principali segnalati dall’autore
La parte più interessante dell’articolo riguarda i rischi. Perlis non si limita ai soliti problemi di privacy o sicurezza dei dati, ma analizza conseguenze cliniche e sociali più profonde.
Riduzione dell’accesso alla cura umana
Il primo rischio è che i chatbot diventino una barriera invece che un aiuto. Per esempio, un assicuratore o un servizio sanitario potrebbe imporre a un paziente di completare un ciclo di terapia digitale prima di autorizzare una psicoterapia umana o una visita specialistica. In questo caso l’IA non agevolerebbe l’accesso alle cure, ma lo ritarderebbe: una terapia digitale può essere utile se proposta come opzione, come integrazione o come supporto iniziale; diventa problematica se viene usata come filtro obbligatorio per ridurre i costi.

Modifiche impreviste nella pratica clinica
L’autore osserva che ogni nuova tecnologia modifica il comportamento dei clinici. Gli scribes automatici, per esempio, possono cambiare il modo in cui il medico documenta la visita. Analogamente, l’uso di scale standardizzate come il PHQ-9 può indurre alcuni clinici a ridurre la descrizione narrativa dei sintomi depressivi, perché pensano che il punteggio numerico sia sufficiente.Il rischio è che la documentazione diventi più ordinata ma meno clinicamente ricca. In psichiatria questo è particolarmente delicato, perché il senso di una sofferenza mentale emerge spesso da sfumature narrative, cambiamenti nel linguaggio, contraddizioni, esitazioni, contesto familiare e storia personale.

Modelli disallineati rispetto al bene del paziente
Un altro rischio centrale è il cosiddetto misalignment: l’IA potrebbe essere ottimizzata non per il bene del paziente, ma per altri obiettivi, come ridurre i costi, diminuire gli invii specialistici o limitare l’uso di farmaci costosi.Questo è un punto etico fondamentale. Un algoritmo può sembrare “neutro”, ma in realtà incorpora sempre una funzione-obiettivo. Se l’obiettivo è il risparmio, il paziente rischia di diventare una variabile secondaria.L’autore ricorda anche casi in cui chatbot hanno prodotto risposte dannose: consigli dietetici inappropriati in soggetti con disturbi alimentari, indicazioni pericolose sul suicidio, suggerimenti assurdi o nocivi. Il problema è aggravato dal fatto che i grandi modelli linguistici sono probabilistici: non è sempre possibile prevedere in anticipo tutte le loro risposte.

Conseguenze sociali più ampie
L’articolo allarga poi lo sguardo oltre la clinica. L’IA può influenzare la salute mentale anche attraverso i social media, la manipolazione dell’informazione, la solitudine, la sostituzione delle relazioni umane e l’ansia per il futuro del lavoro.L’autore sottolinea che sistemi progettati per massimizzare l’engagement non sono necessariamente progettati per proteggere il benessere psicologico. Se l’IA viene usata per produrre contenuti sempre più persuasivi, personalizzati e coinvolgenti, può aumentare dipendenza digitale, confronto sociale, irritabilità, ansia e depressione.Vi è poi il rischio della relazione parasociale con chatbot sempre più sofisticati. Per alcuni soggetti soli o fragili, parlare con un assistente artificiale può dare conforto; ma se questo sostituisce progressivamente le relazioni umane, può peggiorare isolamento e perdita di competenze sociali.Infine, l’autore accenna a rischi globali: manipolazione politica, cybercrime, sviluppo di strumenti pericolosi, perdita di lavoro e nuove forme di ansia collettiva.

Le soluzioni proposte
Perlis non propone una soluzione unica, ma alcune linee di contenimento. La prima che servono norme che obblighino alla trasparenza: chi usa un algoritmo, con quali dati è stato sviluppato, quali obiettivi persegue, quali benchmark ha superato, quali limiti presenta. In particolare, i pagatori e i sistemi assicurativi dovrebbero dichiarare quando usano IA per orientare, limitare o autorizzare percorsi di cura.
La seconda è evitare che l’IA diventi un gatekeeper obbligatorio. Un chatbot può essere un’opzione terapeutica, ma non dovrebbe diventare il passaggio imposto prima di accedere alla cura umana, salvo prove solide di non inferiorità rispetto agli standard attuali.
La terza è la formazione dei clinici. I medici devono imparare a usare l’IA, ma anche a riconoscerne errori, bias, limiti e possibili effetti distorsivi. L’autore suggerisce provocatoriamente che, come i piloti devono mantenere ore di volo manuale, anche i medici in formazione dovrebbero conservare spazi di pratica clinica senza automazione, per non perdere il ragionamento diagnostico e terapeutico.

Commento critico
L’articolo è importante perché evita due estremi: il tecno-ottimismo ingenuo e il rifiuto difensivo dell’innovazione. Perlis riconosce che l’IA può migliorare l’accesso alla salute mentale, specialmente in contesti dove la domanda supera enormemente l’offerta. Tuttavia, insiste sul fatto che l’innovazione tecnologica non è mai neutrale: dipende dagli interessi che la guidano, dagli obiettivi incorporati negli algoritmi e dal contesto organizzativo in cui viene applicata.
Dal punto di vista clinico, il messaggio più forte è che la salute mentale non può essere ridotta a una sequenza di risposte standardizzate. La psicoterapia, la psichiatria e la medicina generale lavorano su sintomi, ma anche su storie, relazioni, ambivalenze, difese, contesti familiari e sociali. Un chatbot può insegnare tecniche cognitive, proporre esercizi, monitorare sintomi, ricordare strategie comportamentali. Ma difficilmente può sostituire pienamente la funzione del terapeuta o del medico come presenza umana, testimone, regolatore emotivo e interprete del contesto.
Per un medico di famiglia, l’articolo ha implicazioni molto concrete. L’IA può aiutare nel triage, nella raccolta anamnestica, nel monitoraggio di depressione e ansia, nel suggerimento di linee guida e nella preparazione di materiali psicoeducativi. Ma deve restare uno strumento di supporto, non un sostituto del giudizio clinico. Nei pazienti fragili, soli, con rischio suicidario, disturbi alimentari, psicosi, abuso di sostanze o grave vulnerabilità relazionale, l’uso di strumenti automatizzati richiede particolare prudenza.La prospettiva etica decisiva è questa: l’IA in salute mentale avrà un ruolo positivo se aumenterà la capacità del sistema di offrire più relazione, più tempestività, più appropriatezza e più continuità ma avrà effetti negativi se verrà usata per offrire meno tempo clinico e più controllo amministrativo.


Conclusione
L’articolo di Perlis può essere letto come un invito alla responsabilità. L’IA non va demonizzata: può ampliare l’accesso, sostenere i clinici, migliorare il monitoraggio e accelerare la ricerca. Ma in salute mentale il rischio di danno è particolarmente sottile, perché riguarda non solo la correttezza tecnica delle risposte, ma la qualità della relazione, la fiducia, l’autonomia del paziente e la competenza del medico.
La domanda finale non è: “l’IA funziona?”La domanda più importante è: “funziona per il bene del paziente, o per il bene del sistema che vuole spendere meno?”




Riccardo De Gobbi e Giampaolo Collecchia


Bibliografia
1. Roy H. Perlis Artificial Intelligence and the Potential Transformation of Mental Health JAMA PsychiatryVol. 83, No. 4 http:// https://jamanetwork.com/journals/jamapsychiatry/article-abstract/2843973
Per approfondimenti
Collecchia G., De Gobbi R.: Intelligenza artificiale e medicina digitale Il Pensiero Scientifico Editore http://pensiero.it/catalogo/libri/intelligenza-artificiale-e-medicina-digitale/