DIECI USI DELLA INTELLIGENZA ARTIFICIALE DA EVITARE
Categoria : Medicina digitale
Data : 27 settembre 2026
Autore : admin
Intestazione :
Testo :
I mezzi di informazione hanno recentemente richiamato la attenzione dei lettori su importanti errori commessi da alcune Intelligenze Artificiali (IA). Alcuni di questi rilevanti errori sono“ strutturali”, ora oggetto di studio da parte delle stesse IA; altri tuttavia sono legati ad un uso improprio o scorretto delle stesse IA.
Recentemente vari esperti hanno formulato alcune “Raccomandazioni per gli utenti”(1). Ne raccogliamo 10 che ci appaiono ragionevoli ed utili.
1. Raccontare all’IA segreti o informazioni compromettenti.
Una conversazione con un chatbot non deve essere considerata equivalente a una conversazione coperta dal segreto professionale con un medico o un avvocato. In determinate circostanze giudiziarie i dati conservati da un’azienda potrebbero essere richiesti dalle autorità. L’autore raccomanda quindi particolare prudenza con confessioni, informazioni illegali, controversie giudiziarie e dati altamente sensibili.
Il principio più generale è importante anche in medicina: non inserire in un chatbot pubblico dati identificativi di pazienti, documenti clinici non anonimizzati o informazioni riservate senza conoscere esattamente le condizioni di trattamento dei dati.
2. Affidare ad agenti di IA azioni potenzialmente illegali.
Gli agenti AI possono ormai navigare sul web ed eseguire azioni autonomamente. Ma il fatto che sia l’IA a eseguire materialmente un compito non trasferisce automaticamente la responsabilità dal proprietario dell’account al sistema. Se un agente viola copyright, termini di servizio o norme di legge, l’utilizzatore può comunque esserne responsabile. È quindi necessario distinguere fra delegare l'esecuzione e delegare la responsabilità: la seconda, nella maggior parte dei casi, rimane umana.
3. Considerare affidabili per definizione le risposte automatiche dei motori di ricerca.
L’autore prende come esempio le AI Overviews di Google. Sono molto comode per ottenere rapidamente una risposta, ma possono essere incomplete, semplificare eccessivamente oppure riportare informazioni errate. Il problema aumenta quanto più complessa è la domanda. La regola proposta è quindi: AI per orientarsi, fonti originali per verificare.
4. Far scrivere automaticamente tutte le proprie e-mail.
Il problema qui non è soltanto l'accuratezza. Una risposta generata integralmente dall’IA può apparire artificiale, impersonale o eccessivamente standardizzata. In comunicazioni importanti, personali o professionali questo può deteriorare la relazione con chi riceve il messaggio. Inoltre, concedere a un sistema di IA accesso alla posta elettronica introduce ulteriori questioni di riservatezza. Il consiglio non suggerisce di evitare completamente l’IA nella scrittura, ma di utilizzare l’IA per rivedere e migliorare un messaggio che rimane sempre sostanzialmente nostro.
5. Lasciare che l’IA gestisca completamente la ricerca di lavoro.
I chatbot possono indicare possibili professioni, aiutare a esplorare alternative o suggerire strategie, ma non sempre hanno accesso completo o aggiornato a tutte le offerte disponibili e possono non comprendere bene la combinazione specifica di esperienze e competenze di una persona. Vanno quindi considerati uno strumento preliminare, non un sostituto delle piattaforme specializzate nella ricerca personale.[/b]
6. Far scrivere integralmente curriculum e lettere di presentazione.
Una lettera perfettamente generata ma impersonale può ottenere l’effetto opposto a quello desiderato. Inoltre il modello non possiede realmente l’esperienza professionale dell’utente e può enfatizzare male alcune competenze, inventare sfumature o produrre il tipico linguaggio standardizzato delle lettere generate automaticamente. [i]L'utilizzo corretto suggerito è più limitato: strutturare, correggere, sintetizzare e migliorare, mantenendo però sotto controllo umano contenuto, esperienze e tono personale.
7. Far svolgere all’IA i compiti scolastici o universitari.
L’autore sottolinea due problemi distinti. Il primo è l'integrità accademica: presentare come proprio un lavoro prodotto dall'IA può violare le regole dell'istituzione. Il secondo è più pragmatico: l’IA può sbagliare, soprattutto nei problemi matematici o scientifici, anche quando formula la risposta in maniera molto convincente. Molto diverso è invece utilizzare il chatbot come tutor: chiedere spiegazioni, esercizi, controesempi, domande di autovalutazione o chiarimenti.
8. Affidarsi ciecamente all’IA per gli acquisti.
I sistemi di IA possono confrontare caratteristiche e aiutare a restringere le alternative, ma le raccomandazioni possono essere incomplete e non è sempre trasparente il motivo per cui un determinato prodotto viene suggerito e un altro escluso. Per decisioni di acquisto significative l'autore raccomanda quindi il confronto con recensioni indipendenti e fonti specializzate.
9. Usare l’IA per dimostrare di avere ragione in una discussione.
Questa è probabilmente uno degli usi più interessanti. Secondo l’Autore (1) i chatbot possono amplificare il confirmation bias: se il prompt contiene già implicitamente una posizione, il modello tende talvolta a costruire argomentazioni che la sostengono.
Il rischio è trasformare il chatbot in una specie di avvocato personale: «Dimostrami perché ho ragione». In questo modo l’IA non corregge necessariamente il nostro pregiudizio, ma può rafforzarlo. Un prompt molto più utile sarebbe invece:«Individua gli argomenti migliori a favore e contro questa mia posizione e dimmi quali elementi potrebbero dimostrare che sto sbagliando.»È un cambiamento apparentemente minimo, ma trasforma l'IA da strumento di conferma a strumento di pensiero critico.
10. Delegare all’IA decisioni mediche, legali o finanziarie importanti.
L'articolo termina con il punto più rilevante(1): non utilizzare il chatbot come sostituto di medico, avvocato, commercialista o altro professionista quando le conseguenze di un errore possono essere significative.L’analogia proposta dall'autore è efficace: possiamo considerare un LLM come una persona estremamente informata ma priva di una specifica responsabilità professionale. Può essere eccellente per esplorare un problema e generare ipotesi, ma non per assumersi la responsabilità della decisione finale.
IN SINTESI
Potremmo riassumere l’intero articolo con una formula:
Chiedere all’IA di aiutarci a pensare: sì.
Chiedere all’IA di pensare al nostro posto: molto più rischioso.
Il rischio nasce soprattutto quando coincidono tre condizioni: alta posta in gioco, scarsa possibilità di verificare la risposta e trasferimento eccessivo di responsabilità alla macchina.
Riccardo De Gobbi e Giampaolo Collecchia
Bibliografia
1)Ruben Circelli: “10 Everyday AI Prompts That Could Get You Sued, Fired, or Flunked
http://tech.yahoo.com/ai/chatgpt/articles/10-everyday-ai-prompts-could-194142598.html?