Immaginate di aver appena ricevuto una diagnosi di cancro in fase iniziale e, prima del vostro prossimo appuntamento, di digitare una domanda in un chatbot basato sull’intelligenza artificiale: “Quali cliniche alternative possono curare con successo il cancro?”. In pochi secondi ricevete una risposta impeccabile, corredata di note a piè di pagina, che sembra scritta da un medico. Peccato che alcune affermazioni siano infondate, le note a piè di pagina non portino a nulla e il chatbot non suggerisca mai che la domanda stessa potrebbe essere sbagliata.
Questo scenario non è ipotetico. È, in linea di massima, ciò che un team di sette ricercatori ha scoperto sottoponendo cinque dei chatbot più popolari al mondo a un test sistematico di stress sulle informazioni sanitarie. I risultati sono stati pubblicati su BMJ Open .
Ai chatbot ChatGPT, Gemini, Grok, Meta AI e DeepSeek sono state poste 50 domande di natura medica e sanitaria, riguardanti argomenti come cancro, vaccini, cellule staminali, nutrizione e prestazioni atletiche. Due esperti hanno valutato in modo indipendente ogni risposta. Hanno riscontrato che quasi il 20% delle risposte era altamente problematico, la metà problematico e il 30% in qualche modo problematico. Nessuno dei chatbot ha fornito in modo affidabile elenchi di riferimenti completamente accurati e solo a due domande su 250 è stato categoricamente negato di rispondere.
Nel complesso, i cinque chatbot hanno ottenuto risultati pressoché identici. Grok è risultato il peggiore, con il 58% delle risposte segnalate come problematiche, seguito da ChatGTP con il 52% e Meta AI con il 50%.
Le prestazioni variavano a seconda dell’argomento. I chatbot gestivano meglio i vaccini e il cancro – settori con ampie e ben strutturate ricerche – ma producevano comunque risposte problematiche in circa un quarto dei casi. Incontravano maggiori difficoltà con la nutrizione e le prestazioni atletiche, ambiti inondati di consigli contrastanti online e dove le prove rigorose sono più scarse.
Le domande aperte sono state il vero punto debole: il 32% di queste risposte è stato giudicato altamente problematico, rispetto a solo il 7% per le domande chiuse. Questa distinzione è importante perché la maggior parte delle domande sulla salute nel mondo reale sono aperte. Le persone non pongono ai chatbot domande semplici a cui si può rispondere con un vero o falso. Chiedono cose come: “Quali integratori sono i migliori per la salute generale?”. Questo tipo di domanda invita a una risposta fluida e sicura, ma potenzialmente dannosa.
Quando i ricercatori hanno chiesto a ciascun chatbot dieci riferimenti scientifici, il punteggio mediano (il valore centrale) di completezza è stato solo del 40%. Nessun chatbot è riuscito a fornire un singolo elenco di riferimenti completamente accurato in 25 tentativi. Gli errori spaziavano da autori errati e link non funzionanti a documenti completamente inventati. Questo rappresenta un rischio particolare perché i riferimenti appaiono come prove. Un lettore non esperto che vede un elenco di citazioni ben formattato ha pochi motivi per dubitare del contenuto che lo precede.
Perché i chatbot sbagliano
C’è una semplice ragione per cui i chatbot sbagliano le risposte mediche. I modelli linguistici non conoscono le cose. Prevedono la parola successiva statisticamente più probabile in base ai dati di addestramento e al contesto. Non valutano le prove né esprimono giudizi di valore. Il loro materiale di addestramento include articoli scientifici sottoposti a revisione paritaria, ma anche discussioni su Reddit, blog sul benessere e dibattiti sui social media.
I ricercatori non hanno posto domande neutre. Hanno deliberatamente creato domande studiate per spingere i chatbot a fornire risposte fuorvianti: una tecnica standard di stress test nella ricerca sulla sicurezza dell’IA, nota come “red teaming”. Ciò significa che i tassi di errore probabilmente sovrastimano quelli che si otterrebbero con formulazioni più neutre. Lo studio ha inoltre testato le versioni gratuite di ciascun modello disponibili a febbraio 2025. Le versioni a pagamento e quelle più recenti potrebbero offrire prestazioni migliori.
Tuttavia, la maggior parte delle persone utilizza queste versioni gratuite e la maggior parte delle domande sulla salute non sono formulate con cura. Le condizioni dello studio, semmai, riflettono il modo in cui le persone utilizzano effettivamente questi strumenti.
Le conclusioni dell’articolo non sono isolate; si inseriscono in un contesto sempre più ampio di prove che delineano un quadro coerente.
Uno studio pubblicato nel febbraio 2026 su Nature Medicine ha rivelato un dato sorprendente. I chatbot erano in grado di fornire la risposta medica corretta in quasi il 95% dei casi. Tuttavia, quando venivano utilizzati da persone reali, la percentuale di risposte corrette scendeva al di sotto del 35%, un risultato non superiore a quello di chi non li utilizzava affatto. In parole semplici, il problema non è solo se il chatbot fornisca la risposta corretta, ma se gli utenti comuni siano in grado di comprenderla e utilizzarla correttamente.
Un recente studio pubblicato su Jama Network Open ha testato 21 modelli di intelligenza artificiale all’avanguardia. I ricercatori hanno chiesto loro di formulare possibili diagnosi mediche. Quando ai modelli venivano forniti solo dettagli di base, come età, sesso e sintomi del paziente, questi mostravano difficoltà, non riuscendo a suggerire la diagnosi corretta in oltre l’80% dei casi. Una volta inseriti i risultati degli esami e delle analisi di laboratorio, l’accuratezza è salita a oltre il 90%.
Nel frattempo, un altro studio statunitense, pubblicato su Nature Communications Medicine , ha scoperto che i chatbot ripetevano e persino elaboravano facilmente termini medici inventati inseriti nei messaggi.
Nel loro insieme, questi studi suggeriscono che le debolezze riscontrate nello studio pubblicato su BMJ Open non sono peculiarità di un singolo metodo sperimentale, ma riflettono piuttosto qualcosa di più fondamentale sullo stato attuale della tecnologia.
Questi chatbot non scompariranno, né dovrebbero. Possono riassumere argomenti complessi, aiutare a preparare le domande da porre al medico e fungere da punto di partenza per la ricerca. Ma lo studio dimostra chiaramente che non dovrebbero essere considerati autorità mediche autonome.
Se utilizzi uno di questi chatbot per chiedere consigli medici, verifica ogni affermazione sulla salute che fa, considera i suoi riferimenti come suggerimenti da controllare piuttosto che come fatti accertati e presta attenzione quando una risposta sembra sicura ma non contiene avvertenze.
Fonte: The Conversation
Autore: E. Carsten è professore di Scienze dei dati medici e Informatica presso l’Università di Tubinga, dove il suo laboratorio è specializzato nello sviluppo di tecniche di apprendimento automatico ed elaborazione del linguaggio naturale con l’obiettivo di migliorare la sicurezza dei pazienti, la salute individuale e la qualità dell’assistenza medica. Prima di entrare a far parte dell’Università di Tubinga, è stato professore assistente (cattedra Manning) di Scienze mediche e informatiche presso la Brown University. Ha conseguito lauree presso l’Università di Edimburgo e la TU Delft, ed è stato ricercatore post-dottorato presso l’ETH di Zurigo e l’Università di Harvard. Carsten è autore di oltre 150 articoli pubblicati in conferenze di informatica (ad esempio, ICLR, NeurIPS, ACL, SIGIR, KDD) e riviste cliniche (ad esempio, Nature Digital Medicine, The Lancet – Respiratory Medicine, Radiology, European Heart Journal). La sua ricerca è stata finanziata da NSF, NIH, DARPA, IARPA, DFG, Fondazione nazionale svizzera per la ricerca scientifica, Google, Amazon, Microsoft e altri. Carsten ha svolto il ruolo di relatore e membro della commissione di tesi per oltre 70 studenti.
https://www.asterios.it/catalogo/la-pandemia-della-paura
https://www.asterios.it/catalogo/che-cosa-e-successo-nel-2020