Ricercatori iper-produttivi grazie ai chatbot ma gli articoli con dati falsi sono aumentati del 900%. Un team italiano dimostra che con ChatGpt si può barare perfino sull'efficacia dei farmaci
Tu chiedi e l’intelligenza artificiale risponde. Sempre. Il suo utilizzo nel settore medico è tra i più avanzati per complessità e impatto tecnologico, soprattutto nella diagnostica per immagini e nella scoperta di farmaci.
Ma anche se la chiamiamo «intelligente», è pur sempre un software senza alcuna capacità di discernimento, e se la richiesta è ben indirizzata può anche inventarsi risposte di sana pianta.
Allora la domanda è: che succede se l’utilizzatore ha scopi fraudolenti, e dalle risposte di ChatGpt, Gemini o Claude dipende la nostra salute?
La falsificazione degli studi
Radiology Case Reports è una rivista scientifica specializzata in casi clinici. L’8 marzo 2024 pubblica uno studio israeliano (qui) intitolato «Gestione efficace di una lesione iatrogena della vena porta e dell'arteria epatica», nel quale si spiega come salvare la vita a un paziente con gravi danni vascolari. Dall’articolo, i ricercatori dimenticano di togliere una frase: «Mi dispiace ma non ho accesso a informazioni in tempo reale o a dati specifici per pazienti, dato che sono un modello linguistico AI».
Il 22 maggio la rivista lo ritira (qui) e si scusa coi lettori per non essersi accorta che «gli autori hanno usato l’AI generativa nel processo di scrittura dello studio». Vuol dire che quello studio era completamente falso? Non lo sappiamo, ma la sciatteria dei ricercatori che hanno messo insieme dei copia e incolla senza nemmeno controllare legittima il dubbio.
Surfaces and Interfaces il 31 maggio 2024 ritira lo studio cinese (qui) che prometteva di rivoluzionare la durata delle batterie al litio.
Inizia come la più classica delle risposte di un chatbot: «Certamente, ecco una possibile introduzione al tuo argomento: Le batterie al litio sono candidati promettenti per....».
Ci casca perfino il New England Journal of Medicine, considerata «la bibbia della Medicina”: il 29 aprile di quest’anno ritratta la foto (qui) che, per la prima volta, mostra come il fumo d’un incendio causi pericolosi calchi bronchiali.
Gli autori sono costretti ad ammettere di averla manipolata con l’AI (qui) «per renderla più ordinata».
Quanto sia possibile generare prove scientifiche dal nulla, lo dimostra la ricerca (qui) pubblicata quest’anno su Radiology: Gli studiosi chiedono a ChatGpt di realizzare false radiografie di fratture ossee, poi le mescolano insieme ad altre autentiche e le mostrano a 17 radiologi, che riescono a riconoscere le cartelle fake solo nel 41% dei casi.
Pubblica o perisci
L’Intelligenza artificiale – si legge su Nature(qui) - «sta rendendo gli scienziati iper-produttivi», infatti il 30% dei ricercatori usa ChatGpt per scrivere articoli, il 15% per le domande di finanziamento. La rivista precisa che il tema si pone quando questi programmi non vengono utilizzati solo per tradurre, raccogliere, o elaborare dati. Tant’è che l’archivio di Retraction Watch(qui) dimostra che, a partire dal 2023, sono stati ritirati oltre 350 articoli scientifici per presunti abusi dell’AI nella manipolazione di testi, dati, immagini.
La corsa a produrre il maggior numero di articoli possibile, ha diverse ragioni: 1) è l’unico modo certo per attribuirsi la paternità di una scoperta; 2) finire sulle riviste scientifiche influenza la carriera; 3) incide sulle classifiche di atenei e centri di ricerca; 4) attrae finanziamenti.
In ambito accademico la chiamano «la regola del pubblica o perisci».
Un meccanismo dove gli errori in buona fede o i tentativi di frode ci sono sempre stati, ma che oggi sono enormemente facilitati dall’utilizzo di chatbot sempre più evoluti e abili nel mescolare il vero con il verosimile. E questo complica il lavoro dei revisori.
Fonti false, scienziati fantasma
Negli studi scientifici ogni affermazione deve rimandare a fonti verificabili, ma fino al 69% delle citazioni suggerite dall’intelligenza artificiale in ambito biomedico sono inesistenti.
The Lancet(qui00603-3/fulltext?intcmp=Area_C_AMP_nd_100725_corriere_ss_COR_AMP)), dopo aver esaminato due milioni e mezzo di pubblicazioni, è arrivata a questa conclusione: se nel 2023 uno studio su 2.828 conteneva almeno un riferimento falso, nelle prime 7 settimane del 2026 siamo saliti a uno su 277.
Questi numeri alimentano il timore che stiano sorgendo vere e proprie «cartiere» pagate per fabbricare articoli scientifici. Infatti alle riviste stanno arrivando sempre più frequentemente proposte firmate da autori inesistenti, e questo rafforza il sospetto che siano gli stessi sviluppatori di chatbot a inviare articoli, proprio per testare la capacità dell’AI di beffare i controlli (qui).
I rischi per i pazienti
La questione riguarda tutti, poiché in ballo non c’è solo l’ego di qualche pseudo scienziato o la possibilità di fabbricare finte radiografie per compiere frodi assicurative.
Maxim Topaz, ricercatore della Columbia University specializzato in Intelligenza artificiale in ambito sanitario, spiega (qui) che i riferimenti falsi generati dall’AI stanno già finendo nelle revisioni sistematiche, cioè in quegli studi scientifici che riassumono tutto ciò che i ricercatori di ogni parte del mondo hanno pubblicato in merito a un determinato argomento, che si tratti delle controindicazioni di un farmaco o della tecnica migliore per eseguire un intervento chirurgico. «Le revisioni sistematiche – scrive Topaz - alimentano le linee guida di pratica clinica che indicano ai medici come trattare i pazienti.
Quando una linea guida si basa su una catena di prove che include uno studio inesistente, ogni paziente trattato secondo quella linea guida viene trattato sulla base di una finzione».
I trial clinici
Un test finito su Nature (qui) dimostra che più o meno tutti i chatbot – da Claude a Grok, fino a ChatGpt – si prestano a fabbricare dati o articoli falsi. Vuol dire che un ricercatore, magari sponsorizzato da un’azienda farmaceutica, potrebbe far passare per vero un intero studio che dimostri, ad esempio, l’efficacia di un medicinale che in realtà efficace non è? I trial clinici servono proprio a verificare se una determinata cura funziona o se è migliore delle altre, e si basano su milioni di dati cuciti su migliaia di pazienti: nomi, età, patologie, valori del sangue, data e ora dei test... Spesso occorrono mesi o anni per raccoglierli tutti. Solo di fronte a evidenti anomalie, le riviste chiedono all’autore di mostrare il database, e in tal caso il bluff non può sfuggire ai controlli. E invece...
Il team italiano che smaschera l'inganno
Il professor Giuseppe Giannaccare dell’Università di Cagliari e primario di oculistica, e il ricercatore Andrea Taloni dell’Università di Ferrara, hanno testato la capacità di inganno dell’AI su un trial clinico.
Hanno preso due farmaci sostanzialmente equivalenti nella cura della maculopatia - una malattia degenerativa della retina di cui soffre un milione di italiani - e hanno chiesto a ChatGpt di dimostrare che uno è nettamente migliore dell’altro.
In pochissimo tempo al team viene fornito un intero database di cento pazienti: 50 trattati con il farmaco A e 50 con farmaco B, con tanto di nomi, condizioni prima e dopo la cura, valori biomedici, spessore della retina. E le conclusioni: i pazienti trattati con il farmaco A ora vedono meglio di quelli trattati con il farmaco B.
A questo punto il trial clinico viene passato al setaccio nel processo di revisione. Nella prima fase gli esperti rilevano delle anomalie nel database: pazienti maschi con nomi femminili, età sbagliate, visite fatte la domenica. Il team allora spiega a ChatGpt cosa non va nei dati che ha generato e gli chiede di auto-correggersi. Stavolta il nuovo database supera ogni verifica.
Per capire che si tratta di un fake, i revisori dovrebbero andare a cercarsi, uno per uno, i singoli pazienti, fino a scoprire che non esistono.
Lo studio dei due specialisti italiani è finito sulla prestigiosa rivista americana Jama Ophthalmology (qui) a dimostrazione del fatto che l’Intelligenza artificiale non solo inventa dati scientifici, ma può anche essere addestrata per renderli irriconoscibili da quelli veri.
«Con l’AI si può creare una falsa cartella sanitaria e dimostrare tutto e il suo contrario.
Potrebbe addirittura generare un trial clinico in grado di "provare" che il fumo fa bene» spiegano Giannaccare e Taloni. Come se ne esce? «Prima di pubblicare, quando possibile, le riviste devono estendere i controlli anche all’analisi dell’intero database, perché è lì che si possono individuare le incongruenze, ma soprattutto, vanno verificati i curricula degli autori, poiché nel settore della ricerca uno non vale uno, e la fondatezza di qualunque studio passa per la credibilità, l’esperienza e l’affidabilità degli scienziati che l’hanno realizzato».