L’intelligenza artificiale in medicina funziona. Ma è difendibile?

L’AI in medicina non è più una promessa. È operativa. Legge immagini diagnostiche, stratifica i pazienti per rischio, supporta le decisioni cliniche in tempo reale, accelera la scoperta di nuovi farmaci, ottimizza il disegno degli studi. In molti contesti produce risultati che reggono il confronto con l’expertise umana e in alcuni casi, la superano.

Ma c’è una domanda che l’algoritmo non risponde da solo: questo modello è difendibile?

Non nel senso tecnico. Nel senso che conta quando il modello incontra il mondo reale, un reviewer EMA, un comitato etico, un organismo notificato per la marcatura CE, un investitore in fase di due diligence, un giudice in un contesto di responsabilità clinica. In tutti questi contesti, la qualità tecnica del modello è necessaria ma non sufficiente. Ciò che viene chiesto è la capacità di dimostrare quella qualità attraverso documentazione strutturata, tracciabile, firmata da chi può rispondere delle scelte metodologiche.

Questa è la lacuna sistematica nell’adozione dell’AI in medicina. Non riguarda la tecnologia. Riguarda la validazione.

Modelli predittivi diagnostici

La radiologia e la patologia digitale sono tra i campi in cui l’AI ha prodotto i risultati più impressionanti. Modelli che identificano lesioni polmonari, classificano preparati istologici, rilevano retinopatia diabetica con accuratezza paragonabile o superiore allo specialista.

Il problema non è l’accuratezza sul dataset di sviluppo. È la tenuta del modello fuori da quel dataset.

Un modello addestrato su immagini acquisite con un’apparecchiatura specifica, in una popolazione specifica, in un centro specifico, può degradare significativamente quando viene applicato in un contesto diverso. Questo si chiama distributional shift ed è uno dei problemi metodologici più documentati nell’AI clinica.

La validazione esterna è il requisito minimo per poter affermare che il modello funziona, non solo che ha funzionato. TRIPOD+AI, la linea guida di reporting per i modelli predittivi con AI pubblicata sul BMJ nell’aprile 2024, la include tra i requisiti espliciti di rendicontazione. I reviewer delle riviste più rigorose la cercano. Gli organismi notificati per i dispositivi medici AI la pretendono.

Senza validazione esterna documentata, un modello con AUC 0.94 è un modello che discrimina bene in un contesto controllato. Non è un modello clinicamente affidabile.

Algoritmi di supporto decisionale clinico

I clinical decision support system basati su AI — per il triage in pronto soccorso, per la stratificazione del rischio in oncologia, per la gestione della sepsi — sono tra le applicazioni con il maggiore impatto potenziale e il maggiore rischio metodologico.

Il rischio non è che l’algoritmo sbagli. È che sbaglia in modo sistematico su sottogruppi specifici di pazienti — e che questo bias non venga rilevato prima del deployment.

La valutazione delle performance del modello disaggregata per sesso, età, etnia, comorbidità — quella che in letteratura metodologica viene chiamata fairness analysis — è un requisito esplicito dell’AI Act per i sistemi ad alto rischio in ambito sanitario, declinato nell’Art. 10 sulla data governance e nella gestione dei bias nei dataset di training e validazione. È anche uno degli elementi più frequentemente assenti nella documentazione che accompagna questi strumenti.

Un algoritmo che performa bene in media ma peggiora sistematicamente su pazienti anziani, su popolazioni sottorappresentate nel dataset di training, o su presentazioni cliniche atipiche, non è uno strumento equo. E in un contesto regolatorio o legale, l’assenza di questa analisi è una vulnerabilità concreta.

Farmacovigilanza e analisi dei dati real-world

L’AI applicata alla farmacovigilanza — per il rilevamento automatico di segnali di sicurezza, per l’analisi di grandi volumi di dati real-world post-marketing — sta diventando standard in molte organizzazioni farmaceutiche e nelle agenzie regolatorie stesse.

Ma i dati real-world portano con sé problemi strutturali che nessun modello risolve automaticamente: confounding by indication, missing data non casuali, eterogeneità delle fonti, variabilità nella qualità della codifica diagnostica.

Un sistema di farmacovigilanza basato su AI che non documenta esplicitamente come questi problemi sono stati affrontati — con quale framework metodologico, con quali assunzioni, con quali analisi di sensibilità — produce segnali che non possono essere interpretati con fiducia. E in un contesto in cui un falso segnale può bloccare un farmaco efficace, o un segnale mancato può causare danni a pazienti, le conseguenze non sono solo metodologiche.

EMA ha pubblicato framework e guidance specifici sull’uso dei real-world data nelle submission regolatori — tra cui il Data Quality Framework for EU Medicines Regulation: application to Real-World Data (EMA/503781/2024, adottato dal CHMP il 16 marzo 2026) e il Reflection Paper on the use of RWD in non-interventional studies a supporto del processo decisionale regolatorio. La documentazione metodologica non è un’opzione — è una condizione.

Progettazione e ottimizzazione degli studi clinici

L’AI sta cambiando il modo in cui si progettano gli studi clinici. Strumenti che ottimizzano il disegno adattativo, che identificano i criteri di eleggibilità più efficienti, che costruiscono comparatori sintetici a partire da dati storici o real-world. Applicazioni che riducono costi, tempi e in alcuni casi la necessità di esporre pazienti a trattamenti subottimali.

Il problema metodologico è strutturale: le scelte che questi strumenti fanno — quali pazienti includere nel comparatore sintetico, come pesare le covariate, come definire l’endpoint emulato — non sono neutrali. Sono scelte analitiche con implicazioni dirette sulla validità e sull’interpretabilità dei risultati.

Quando queste scelte vengono fatte all’interno di un algoritmo, senza documentazione esplicita e senza un framework metodologico che le giustifichi, il risultato è uno studio che produce numeri ma non produce evidenza difendibile. Un reviewer EMA o FDA che non trova la giustificazione metodologica di ogni scelta critica ha tutti gli strumenti per richiedere integrazioni — o per bloccare la submission.

Drug discovery e target identification

L’AI nella drug discovery ha prodotto risultati straordinari — dalla predizione della struttura proteica all’identificazione di nuovi target terapeutici, dalla generazione di molecole candidate alla previsione della tossicità. Applicazioni che comprimono anni di ricerca in mesi.

Ma il percorso dalla scoperta computazionale alla submission regolatoria è lungo, e il salto metodologico tra i due estremi è spesso sottovalutato.

Un modello che identifica un target promettente o genera una molecola candidata deve essere accompagnato da documentazione che attesti la solidità del processo — le assunzioni del modello, i limiti del dataset di training, la logica di selezione tra i candidati, la gestione dell’incertezza predittiva. Quando questa documentazione manca, il passaggio alla fase sperimentale avviene su basi che non sono verificabili né riproducibili.

In un contesto in cui il costo di un fallimento in fase clinica si misura in centinaia di milioni, la validazione metodologica del processo computazionale a monte non è un costo — è un’assicurazione.

Monitoraggio post-deployment

Il deployment di un modello AI in un contesto clinico non è la fine del processo. È l’inizio di una fase in cui il modello incontra dati reali, popolazioni reali, variazioni che il dataset di training non aveva previsto.

Il model drift — la degradazione delle performance nel tempo a causa di cambiamenti nella distribuzione dei dati di input — è un fenomeno documentato e prevedibile. Ma prevedibile non significa automaticamente gestito.

Un piano di monitoraggio post-deployment che non definisce le metriche di performance da monitorare, le soglie di allerta, le procedure di aggiornamento del modello e i criteri per la sospensione dell’uso, non è un piano — è un’intenzione. L’AI Act, all’Art. 72, impone ai provider di sistemi ad alto rischio l’obbligo di istituire un sistema di monitoraggio post-market strutturato, documentato e integrato nella documentazione tecnica — attivo dalla messa in commercio e per tutta la vita del sistema. Gli organismi notificati lo verificano.

La lacuna non è tecnica

In tutti questi contesti, il pattern è lo stesso. Lo strumento è spesso tecnicamente solido. Il team che lo ha sviluppato conosce il proprio dominio. I risultati, nel contesto di sviluppo, sono convincenti.

La lacuna emerge quando il modello deve essere difeso fuori da quel contesto — davanti a un reviewer che non conosce le scelte fatte internamente, davanti a un regolatore che applica standard normativi specifici, davanti a un investitore che deve valorizzare un asset senza poterlo aprire.

In quel momento, ciò che manca non è un algoritmo migliore. È un documento firmato da qualcuno che può rispondere delle scelte metodologiche, che conosce i requisiti normativi vigenti, e che ha condotto la validazione con indipendenza rispetto a chi ha sviluppato il modello.

L’indipendenza non è un dettaglio formale. È la condizione che rende il giudizio credibile.