 |
|
|
|
|
| |
|
|
|
PUNTI DEBOLI E BIAS DELL’INTELLIGENZA ARTIFICIALE: PRIMA PARTE |
|
|
Inserito il 24 settembre 2023 da admin. - Medicina digitale - segnala a:    
In questa pillola e nella prossima esamineremo punti deboli e veri e propri bias nella Intelligenza Artificiale, che con la uscita di ChatGpt, Bard, Bing ecc, rischia di essere sopravalutata. Ricordiamo che gli algoritmi sono ‘costruiti’ dall’uomo, sono per alcuni aspetti ‘bambini’ cui viene data una certa educazione: quindi tenderanno ad ‘assorbire’ le caratteristiche psico-socio-culturali di chi li crea.
In altre parole, corriamo il rischio di trasferire i nostri ‘difetti’ alla IA. E’ davvero strano come le macchine riescano ad imparare e a riprodurre gli errori umani, trasformandosi in sistemi non equi, ‘emulando’ pedissequamente le ingiustizie della società odierna. In questa pillola esaminiamo gli aspetti medico-clinici in cui l’IA appare deficitaria; nella prossima pillola prenderemo in esame i possibili bias delle Intelligenze Artificiali.
L’Effetto Placebo
Autorevoli medici di famiglia ed internisti sostengono che l'effetto placebo legato al rituale della visita medica e soprattutto alle complesse e raffinate forme di comunicazione non verbale che si attivano nella relazione medico- paziente non potranno mai essere riprodotte dai dispositivi basati sulla intelligenza artificiale. Questa ipotesi è valida e verificabile;tuttavia è provato fin da lontano 1966 che i dispositivi elettronici possono generare veri e propri Effetti Placebo, peculiari ed inaspettati. Nel 1966 la informatica era in fasce, i computer erano ingombranti scatoloni ed i programmi erano semplicissimi.
Weizenbaum, geniale informatico tedesco, con un semplice programma chiamato Eliza dimostrò che i lenti scatoloni di allora potevano intrattenere una conversazione con chi digitava alla tastiera, utilizzando frasi semplici,cortesi ed equilibrate. Ad esempio nel computer compariva la scritta “Se vuoi scrivi un messaggio” e se l'utente rispondeva “Sono molto stressato” Eliza replicava affermando che comprendeva lo stato d'animo in quanto la vita nella società industriale ci sottopone ad uno stress crescente..
Il dato che sorprese il ricercatore e successivamente tutto il mondo scientifico fu che quel semplice programma, che si limitava ad esprimere comprensione per le esternazioni degli utenti, risultava gradito a tal punto che alcuni operatori dichiaravano di colloquiare spesso con Eliza in quanto ne ricavavano un beneficio psicologico. La efficacia di vari tipi di psicoterapie digitali ispirate alle metodologie cognitivo- comportamentali è documentata dall'autorevole Nice britannico ed è probabilmente in parte dovuta proprio ad un “effetto placebo digitale”. Concludendo come ha ben documentato Fabrizio Benedetti (2) possiamo ricordare che l'effetto placebo nasce nella mente umana ma si manifesta con modalità anche molto diverse a seconda dei vari contesti(uso di farmaci, agopuntura, ipnosi, cerimoniali dei guaritori ecc.)
La Diagnostica Psicologica- Psichiatrica
E’ un ambito quanto mai complesso in cui l'empatia gioca un ruolo molto importante. La vasta letteratura fenomenologico esistenziale fornisce resoconti dettagliati sulla importanza della relazione paziente-terapeuta che consente di cogliere segni e sintomi psichici o psicosomatici complessi e sfumati.
A titolo di esempio, tratto dalla pratica clinica, ricordiamo come sia relativamente semplice diagnosticare un delirio di onnipotenza e trattare immediatamente il paziente con alte dosi di neurolettici, ma ad uno psichiatra esperto non sfuggirà che il delirio in quella particolare persona è in realtà una fase transitoria di una psicosi ciclotimica che si compenserà benissimo con sali di litio evitando il ricorso a pesanti e nocive terapie neurolettiche.
Il ‘ragionamento fine’
Essendo l’IA una macchina che assembla big-data e produce risposte ‘statistiche’, non possiede le capacità del ragionamento ‘fine’. Gli uomini mancano spesso di definizioni coerenti ed universali di alcuni concetti, come per esempio quello di ‘correttezza’; anche l’IA avrà lo stesso difetto, e non riuscirà ad elaborare concetti molto astratti e meta-fisici. Pensiamo alla difficoltà dei diversi sistemi filosofici di comprendersi e comunicare, tanto che ormai la filosofia si è ridotta ad un ‘pensiero debole’, e ad esprimersi solo come strumento ‘epistemologico’ di catalogazione del sapere.
L’intuizione
Ha fatto discutere filosofi e scienziati per secoli e continua a metterci in crisi: non sappiamo bene cosa sia, né perché e come a volte funzioni, ma sappiamo che in medicina è essenziale e che molto difficilmente anche le più evolute forme di intelligenza artificiale potranno riprodurre quei momenti di geniale illuminazione che in molte occasioni hanno cambiato il corso della storia. Al momento attuale dato che nessuno studioso ha chiarito come nascano le intuizioni possiamo escludere che le intelligenze artificiali, seppur dotate di immensi data base ed alta velocità, possano avere intuizioni creative(3).
Mancanza di un’etica condivisa
Mancando un concetto ‘condiviso’ di coscienza, ed essendo i modelli etici legati ai diversi contesti socio-culturali, anche l’IA per ora non possiede alcuna reale e riconosciuta eticità universale.
Roberto Fassina, Riccardo De Gobbi, Giampaolo Collecchia
Continua nella seconda parte...
Bibliografia
1)J. Weizenbaum: ELIZA—a computer program for the study of natural language communication between man and machine DOI:10.1145/365153.365168
2) Benedetti Fabrizio: Effetti Placebo e Nocebo. Giovanni Fioriti Editore Roma 2015
3) Nicholas Carr : Internet ci rende stupidi ? Raffaello Cortina Editore Milano 2011
Per Approfondire la applicazioni della Intelligenza Artificiale:
Collecchia G. De Gobbi R.: Intelligenza Artificiale e Medicina Digitale. Una guida critica. Il Pensiero Scientifico Ed. Roma 2020
http://pensiero.it/catalogo/libri/pubblico/intelligenza-artificiale-e-medicina-digitale
|
|
|
Letto : 86214 | Torna indietro |  |  | 
|
|
|
|
|
|
|
|
© Pillole.org 2004-2024 | Disclaimer | Reg. T. Roma n. 2/06 del 25/01/06 | Dir. resp. D. Zamperini 
ore 22:02 | 97719357 accessi| utenti in linea:
25502
|
| |
Home
Entra
Iscriviti
