Anche la Intelligenza Artificiale sbaglia: ecco come e perché
Categoria : Medicina digitale
Data : 21 novembre 2021
Autore : admin
Intestazione :
Testo :
I dispositivi di intelligenza artificiale sono largamente diffusi in tutte le discipline scientifiche: in ambito medico essi sono da decenni utilizzati a fini di ricerca ma solo da pochi anni sono validati in ambito diagnostico (ad esempio in radiologia)e terapeutico (ad esempio nel pancreas artificiale).
I successi ottenuti da questi dispositivi in ambito medico, abilmente pubblicizzati dalle aziende produttrici, hanno diffuso un clima di grande ottimismo che tuttavia in ambito cognitivo può favorire una sopravvalutazione ed una fiducia incondizionata ( bias della “overconfidence”), che comportano una diminuzione delle nostre capacità critiche, il mancato riconoscimento di alcuni errori, la fatalistica accettazione di esiti sfavorevoli che potrebbero invece essere dovuti a gravi errori dei dispositivi di intelligenza artificiale ( ricordiamo ad esempio i tragici episodi dei Boeing a guida automatica schiantatisi al suolo).
In questa pillola descriveremo sinteticamente gli algoritmi genetici, ovvero la base logico- matematica che consente alle reti neurali, attraverso procedure di Deep learning, di individuare le soluzioni più idonee dei problemi che sottoponiamo ai dispositivi. In una successiva pillola commenteremo due articoli, pubblicati in prestigiose riviste internazionali, che attirano la nostra attenzione su alcuni limiti degli studi basati sulla intelligenza artificiale.
E’ importante chiarire il significato di alcuni termini che si usano trattando di Intelligenza Artificiale
Il termine di Intelligenza Artificiale(IA) si riferisce a dispositivi in grado di emulare e perfino superare l’intelligenza umana in compiti complessi Il Machine learning( ML) o apprendimento automaticoè una branca dell’IA nella quale i computer forniscono risposte ai problemi presentati “apprendendo”, dai dati introdotti,ad identificare relazioni precise nei dati osservati; è importante ricordare che il ML può essere supervisionato dall’uomo o del tutto autonomo, guidato solo dagli algoritmi originari Il Deep learning o apprendimento profondo, è una metodica di machine learning non supervisionato basata su reti neurali disposte su vari livelli o strati. Il termine Algoritmo si riferisce ad una serie di istruzioni generalmente formulate con espressioni logico-matematiche, che guidano il computer alla soluzione di un determinato problema
I dispositivi più evoluti di IA,ovvero quelli che hanno consentito un salto di qualità nella ricerca di soluzioni ai problemi più complessi (ad esempio la interpretazione delle immagini), sono quelli che tentano di emulare le interazioni tra i neuroni del nostro cervello, riproducendole con dispositivi basati su sorgenti di cariche elettriche (nodi) variamente collegati mediante circuiti ad altri nodi: i vari nodi, tra loro collegati con modalità complesse, costituiscono una rete che permette di eseguire una enorme quantità di operazioni logiche in grado di risolvere moltissimi problemi.
Nelle reti neurali si introducono dati (input) che vengono processati da un primo strato e quindi trasmessi ad un secondo strato che li processa ulteriormente, seguendo le istruzioni dei programmatori, trasmettendoli ad un terzo strato e così via fino ad ottenere il risultato (output).
L' output viene verificato ed eventualmente reinviato con nuove istruzioni al primo strato per ulteriori processazioni,o più frequentemente ad un nuovo dispositivo multistrato, fino ad ottenere un risultato soddisfacente. Ma anche i dispositivi più raffinati di hardware non raggiungono risultati soddisfacenti se non sono guidati da software di alto livello.
Un eccellente salto di qualità si è ottenuto con i software basati sugli “Algoritmi Genetici” che non sono altro che una geniale riproduzione informatica del prodigioso e creativo processo naturale di replicazione del DNA; nel caso del DNA le mutazioni sono casuali e l'ambiente seleziona nel corso di centinaia di migliaia di anni i geni più adatti a rispondere alle necessità di vita in quell'ambiente.
Nel caso degli Algoritmi Genetici le variazioni (=mutazioni) sono apportate dai ricercatori basandosi su valutazioni probabilistiche e la selezione dei “geni più idonei” viene effettuata dai sistemi di Deep Learning che solitamente nell'arco di alcune settimane svolgono un lavoro paragonabile dal punto di vista informatico a quello svolto da madre natura in centinaia di migliaia di anni.
Negli Algoritmi Genetici Infatti il programmatore formula una ipotesi di risposta ad un problema generalmente molto complesso, descritto mediante un numero finito di variabili: ad esempio formulare una diagnosi basandosi sulle caratteristiche di una immagine radiologica.
Le variabili possono assumere diversi valori ed avere un diverso peso sulle varie ipotesi diagnostiche. Gli algoritmi genetici propongono alle reti neurali varie combinazioni di variabili con relativi pesi e valori; queste combinazioni vengono definite " cromosomi" e vengono processate dagli strati di reti neurali che forniscono un risultato ( output) del quale vengono valutate accuratezza completezza e precisione.
Generalmente i primi risultati non sono soddisfacenti: gli informatici manipolano quindi i “cromosomi” di dati, modificando i parametri che sembrano meno affidabili ( si riproducono così le mutazioni casuali del Dna) oppure assemblano i pezzi di diversi cromosomi scegliendo quelli dotati di migliore accuratezza e o completezza e o precisione ( si imitano così le ricombinazioni o crossing-over dei cromosomi degli esseri viventi).
Con questi procedimenti si generano “popolazioni geneticamente diverse” di dati che vengono testate in accuratezza, completezza e precisione dalle reti neurali.
Dopo un numero di passaggi per i vari strati che può essere più o meno elevato a seconda della complessità del problema, si ottiene finalmente una soluzione che è giudicata soddisfacente, così come può essere di fatto soddisfacente l'adattamento all'ambiente di organismi che hanno subito per millenni modificazioni genetiche legate alle sollecitazioni ed alla selezione ambientali.
Gli informatici hanno dunque imparato dalla natura, e grazie alla potenza ed alla velocità nella reti neurali hanno creato e creano soluzioni ai più complessi problemi...
Siamo vicini alla onnipotenza???Per fortuna no !!! Anche questi sofisticatissimi processi infatti possono sbagliare e soprattutto hanno dei limiti; nella prossima pillola vedremo più approfonditamente come...
Riccardo De Gobbi e Giampaolo Collecchia
Bibliografia
1)Bright Keswani , Vikas Yadav : Algoritmi di intelligenza artificiale: Una prospettiva di Algoritmo Genetico Sapienza Ed. Milano 2020
2) Vincenc Torra Reventòs: Gli algoritmi genetici e il futuro della diagnosi medica RBA Ed. Milnaio 2021
Per approfondire:
Collecchia G. De Gobbi R.: Intelligenza Artificiale e Medicina Digitale. Una guida critica. Il Pensiero Scientifico Ed. Roma 2020
http://pensiero.it/catalogo/libri/pubblico/intelligenza-artificiale-e-medicina-digitale