L’intelligenza artificiale genera radiografie false e pazienti inesistenti minacciando l’integrità della ricerca clinica.
Indice
Questo articolo analizza i pazienti sintetici e le radiografie deepfake prodotti dall’intelligenza artificiale, spiega come possono entrare negli studi clinici e nelle cartelle, indica rischi e contromisure e si rivolge a medici, ricercatori, regolatori e lettori attenti alla microbiologia e alla medicina basata su evidenze.
Introduzione
Una radiografia del torace può apparire perfetta: coste, polmoni, cuore. Eppure quel paziente non è mai esistito. L’immagine è un deepfake medico creato da modelli generativi. Lo stesso accade con anamnesi, esami di laboratorio e intere biografie cliniche. I pazienti che non esistono non sono più un’ipotesi da romanzo: sono un rischio concreto per sperimentazioni, assicurazioni e linee guida.
Nel marzo 2026 uno studio su Radiology ha mostrato che diciassette radiologi di sei Paesi, di fronte a 264 lastre miste, hanno riconosciuto spontaneamente i falsi solo nel 41% dei casi. Anche avvertiti, l’accuratezza è salita intorno al 75%. Nemmeno i grandi modelli multimodali distinguono sempre il vero dal sintetico. La frode medica con intelligenza artificiale diventa più economica, più veloce e più difficile da intercettare.
Il tema interessa chi studia patogeni, trial oncologici, demenze e malattie rare: ambiti in cui il reclutamento è lento e gli incentivi economici sono alti. Distinguere uso legittimo di dati sintetici e falsificazione è oggi un dovere scientifico.
Cos’è un paziente sintetico e come nasce una radiografia deepfake
Un paziente sintetico è un’identità clinica interamente generata: nome, età, diagnosi, visite, valori di laboratorio e immagini compatibili tra loro. Non è un avatar dichiarato per simulare un protocollo, ma un record presentato come reale.
Le radiografie deepfake nascono da modelli come GPT-4o o sistemi specializzati tipo RoentGen. Basta un prompt testuale per ottenere lastre di fratture, polmoniti o toraci “normali” con rumore, contrasto e anatomia credibili. I tratti tipici dei falsi includono simmetria eccessiva, ossa troppo lisce, tessuti molli innaturali e grain uniforme. Non sempre bastano a smascherarli.
Perché inventare un malato
I centri che partecipano ai trial vengono remunerati per ogni soggetto arruolato e seguito. Nelle malattie rare, in oncologia e nelle demenze i criteri di inclusione sono stretti. Pochi candidati reali aumentano la pressione.
- Arruolamenti duplicati o visite mai avvenute.
- Valori modificati per far rientrare un soggetto nel protocollo.
- Intere cartelle costruite da zero con intelligenza artificiale.
La maggior parte dei ricercatori rispetta le regole. Dove i controlli sono disomogenei, però, l’IA rende la frode più abbondante.
Uso legittimo contro falsificazione
I pazienti virtuali servono già a progettare studi, ridurre il braccio placebo e proteggere la privacy. Le immagini sintetiche addestrano algoritmi e rappresentano patologie rare senza esporre dati personali. La linea è la trasparenza: un dato dichiarato e validato è strumento; lo stesso dato spacciato per reale è falsificazione.
Attenzione ai bias: un modello addestrato su popolazioni sbilanciate riproduce pregiudizi su sesso, età ed etnia. Un paziente immaginario può distorcere anche la ricerca onesta.
Lo studio Radiology e il caso Alzheimer
Lo studio Tordjman e colleghi ha coinvolto radiologi con esperienza da 0 a 40 anni. Prima fase in cieco: solo il 41% ha notato qualcosa di strano. Seconda fase, dopo l’avviso: accuratezza media circa 75% su dataset GPT-4o e 70% su RoentGen. Quattro LLM testati non hanno individuato tutti i falsi.
Il caso giudiziario statunitense su un farmaco sperimentale per Alzheimer, rilanciato da Science a gennaio 2026, ha messo in luce centri accusati di dati incompatibili e soggetti che non rispettavano i criteri. Le accuse sono controverse, ma il terreno è quello degli studi multicentrici con migliaia di documenti e controlli tardivi.
Un tempo inventare un partecipante richiedeva settimane di carte. Oggi un sistema generativo produce in ore anamnesi, diari dei sintomi e lastre coerenti. La frode medica non è necessariamente più raffinata, è più scalabile.
Come si scopre un malato inventato
Non basta più “guardare se l’immagine sembra strana”. La difesa deve spostarsi sulla provenienza.
Ogni dato dovrebbe lasciare una catena: prescrizione, prenotazione, identificazione del paziente, dispositivo, orario, file originale e log delle modifiche. Una lastra in cartella senza traccia nel sistema ospedaliero è un segnale.
L’IA stessa può aiutare: confronta migliaia di cartelle, trova sequenze temporali impossibili, immagini duplicate e gruppi di pazienti troppo simili. Non può essere l’unico giudice: un algoritmo non riconosce sempre il materiale prodotto da un altro algoritmo. Restano indispensabili verifica umana e documentale.
Principi regolatori FDA ed EMA
Nel gennaio 2026 FDA ed EMA hanno pubblicato principi comuni per l’IA nello sviluppo dei medicinali: scopo definito, dati adeguati, documentazione, valutazione del rischio, sorveglianza sul ciclo di vita e responsabilità umana.
La FDA sperimenta trial “in tempo reale” con flussi di dati durante lo studio, non solo a fine raccolta. Sette qualità richieste: validità, sicurezza, protezione, responsabilità, spiegabilità, riservatezza ed equità.
L’obiettivo non è fermare gli algoritmi, ma rendere ogni risultato riconducibile a una fonte controllabile.
Impatto su ricerca, linee guida e pazienti reali
Una frode in un trial non danneggia solo lo sponsor. Dati falsi possono far apparire efficace una terapia inefficace, nascondere tossicità o affossare un farmaco utile. Quando i risultati entrano in revisioni e linee guida, un paziente inesistente influenza decisioni su persone vere.
Il rischio più inquietante non è che una macchina disegni bene una lastra, ma che immagini, referti e storie formino una biografia sanitaria completa senza alcun essere umano dietro.
In microbiologia e infettivologia lo stesso schema può toccare antibiogrammi, sequenze e cohort di infezioni rare. La fiducia nel dato è il fondamento della medicina basata su evidenze.
Conclusioni
I pazienti sintetici e le radiografie deepfake aprono una frontiera nuova delle frodi mediche. La tecnologia che accelera la ricerca può anche inquinarla. La risposta non è il rifiuto dell’intelligenza artificiale, ma tracciabilità, watermark, firme crittografiche, formazione dei clinici e responsabilità umana. Ogni numero in un trial deve poter essere ricondotto a una persona reale o dichiarato come dato artificiale validato. Solo così la medicina resta al servizio di chi esiste.
Domande Frequenti
Chi può essere danneggiato dai pazienti che non esistono? Pazienti reali che ricevono terapie basate su dati falsi, sponsor onesti e sistemi sanitari. Verificate sempre la catena documentale prima di fidarvi di un dataset.
Cosa sono esattamente le radiografie deepfake? Immagini diagnostiche generate da modelli di IA, non acquisite da un corpo. Confrontate sempre metadati e log di acquisizione con l’immagine.
Quando è lecito usare dati sintetici? Quando sono dichiarati, validati e usati secondo protocollo, non come sostituto nascosto di soggetti reali. Esplicitate sempre l’origine sintetica nei metodi.
Come si riconosce un record clinico inventato? Cercando incoerenze temporali, visite in giorni impossibili, pattern numerici ripetuti e assenza di traccia nei sistemi ospedalieri. Incrociate sempre anagrafe, agenda e PACS.
Dove si concentrano i rischi maggiori? Studi multicentrici, malattie rare, oncologia, demenze e contesti con forti incentivi al reclutamento. Rafforzate i controlli indipendenti nei siti ad alto volume.
Perché l’intelligenza artificiale rende la frode più pericolosa? Perché produce volumi enormi di documenti coerenti a costo bassissimo. Investite in formazione antifrode e in strumenti di provenance digitale.
Fonti
- https://pubmed.ncbi.nlm.nih.gov/41874300/
- https://pubmed.ncbi.nlm.nih.gov/37256685/
- https://pubmed.ncbi.nlm.nih.gov/40272814/
- https://www.microbiologiaitalia.it/salute/bixonimania/
- https://www.microbiologiaitalia.it/salute/ia-che-legge-i-tuoi-esami-medici/
Crediti fotografici
Immagine in evidenza generata con AI – Link
Segui Microbiologia Italia
Se ti è piaciuto questo contenuto e vuoi supportare Microbiologia Italia seguici su MSN e su Google News. Inserisci Microbiologia Italia tra le tue fonti preferite per ricevere aggiornamenti di qualità su argomenti scientifici simili.