I Bias della Mente Umana quando incontra la Intelligenza Artificiale
Categoria : Medicina digitale
Data : 16 maggio 2021
Autore : admin
Intestazione :
Testo :
Il termine inglese bias significa letteralmente “linea obliqua”; in psicologia viene efficacemente utilizzato per indicare pensieri o giudizi erronei che forniscono una visione parziale, viziata, o comunque inadeguata della realtà:i bias dei processi cognitivi e decisionali dell'uomo sono approfonditamente studiati ( David Kahneman fu premiato con il Nobel per la economia per questo tipo di studi); meno noti, ma proprio per questo molto più pericolosi, i “bias” dei sistemi digitale-uomo.
In questa pillola brevemente elencheremo alcuni fenomeni caratteristici della interazione uomo-digitale che influenzano fortemente i nostri processi mentali.
La mente allargata
Una prima importante caratteristica del sistema digitale, da Internet all’intelligenza artificiale, è che esso costituisce una grande risorsa, un vero potenziamento della mente umana: vari studiosi hanno coniato il termine di “mente allargata”; questo allargamento tuttavia può sortire effetti molto positivi se la mente dell’uomo utilizza razionalmente e criticamente il digitale,ma in base ai fenomeni di plasticità dei circuiti neuronali ed alla legge neurofisiologica del minimo sforzo può atrofizzare” la mente umana se pigramente ricorriamo al digitale per ogni banale problema: il fenomeno è già stato documentato ad esempio per il patromonio linguistico e per i semplici calcoli matematici.
Dall’uomo sequenziale all’uomo simultaneo
Nella lettura tradizionale dei testi l’uomo generalmente legge, riflette (a volte con sano spirito critico) e memorizza attraverso processi sequenziali.
Con internet si sta sempre più diffondendo l’approccio veloce: dato che i motori di ricerca sono molto più bravi di noi, guardiamo la schermata e la accettiamo come vera. Anche i più esigenti tra noi quando cercano una risposta raramente consultano più di un sito; è comparso così un nuovo soggetto antropologico: l’uomo simultaneo, il quale se ha un problema consulta internet e sceglie la risposta più comoda o più coerente con le proprie credenze (è il noto fenomeno psicologico del Minimal Group Paradigm).
L’illusione della onnipotenza digitale
La potenza, la velocità e la precisione dei sistemi digitali hanno generato e rafforzato la diffusa illusione che il digitale sia onnipotente, onnisciente e non commetta errori: in realtà il sistema è potente e preciso nell’ambito dei confini che i programmatori hanno delineato e dei limiti intrinseci alle “reti neurali”, alcuni dei quali sono sconosciuti agli stessi inventori e si manifestano nel corso della utilizzazione. Se programmi e reti hanno limiti ed errori il sistema non ha funzioni critiche: continua nell’errore talora fino alle estreme conseguenze. Tuttavia nelle comuni utilizzazioni del digitale la mente umana è costantemente sorpresa ed ammirata dalle prestazioni di questi sistemi
Overconfidence-Over-reliance-Overdependence
Quando gli esseri umani rinunciano alle proprie capacità critiche e fanno eccessivo affidamento nelle capacità dei sistemi automatici, si verificano i tre bias cognitivi qui elencati: sovrastima(overconfidence), eccessiva fiducia(over-reliance),mancanza di autonomia fino a fenomeni di vera e propria dipendenza psicologica. (overdependence).
A questi processi mentali seguono ulteriori modificazioni basate su fenomeni di plasticità neuronale regressiva...
Il Deskilling: riduzione del livello di competenza richiesto per svolgere una funzione (dequalificazione): nelle grandi aziende questo fenomeno porta alla sostituzione dell'uomo da parte delle macchine; nella vita quotidiana e negli ambiti lavorativi protetti (enti pubblici) l'emarginazione degli umani non è così brutale: l'importante è che consumino ed accettino le regole del mondo digitale. Se in una fase di passaggio le persone potranno avvertire un certo disagio, pian piano si abitueranno e verrà la panacea di ogni sofferenza ovvero:
La metaignoranza
È un fenomeno molto diffuso, noto in psicologia cognitiva
come “effetto di Dunning-Kruger” che fu il primo ricercatore che lo
studiò approfonditamente. Tanto più superficiali sono le nostre conoscenze quanto più abbiamo la presunzione di conoscere bene il problema: sopravvalutiamo spessissimo piccole scoperte o banali intuizioni.
Anche questo bias può interessare tanto gli informatici che gli utenti del digitale, ma i primi sono sempre più consapevoli dei propri limiti, mentre gli utenti sopravvalutano i mezzi digitali e sottovalutano sistematicamente la propria ignoranza.
Ma forse è ciò che ci vuole... “così è se vi pare!!!!”
Conclusioni
Quando ci avviciniamo al mondo digitale, ne siamo regolarmente ammaliati e lo viviamo come un onnipotente mezzo per rafforzare le nostre capacità.Tuttavia l’uso sistematico e acritico del digitale ci dà una illusione di forza e intelligenza, mentre, al contrario, potrebbe renderci sempre meno intelligenti e soprattutto sempre meno capaci di pensiero critico e creativo.
Riccardo De Gobbi e Giampaolo Collecchia
Bibliografia
• Clark A, ChalmersDJ. The Extended Mind: Philosophy of mind. Oxford: Oxford University Press, 2002.
• Croskerry P. Achieving quality in clinical decision making: cognitive strategies and detection of bias. Acad Emerg Med 2002; 9(11).
• Dunning D. Advances in experimental social psychology, volume 44. San Diego:Academic Press; 259-62.
• Galimberti U. Nuovo dizionario di psicologia. Milano: Feltrinelli, 2018.
• Kahneman D. Pensieri lenti e veloci. Milano: Mondadori, 2013; 77-80.
• Simone R. La terza fase. Forme di sapere che stiamo perdendo. Bari: Laterza, 2002.
• Tajfel H, Turner J. Social Identity Theory. Bristol: Bristol University, 1980.
Per approfondire:
Collecchia G. De Gobbi R.: Intelligenza Artificiale e Medicina Digitale. Una guida critica. Il Pensiero Scientifico Ed. Roma 2020
http://pensiero.it/catalogo/libri/pubblico/intelligenza-artificiale-e-medicina-digitale