L’AI in medicina non \u00e8 pi\u00f9 una promessa. \u00c8 operativa. Legge immagini diagnostiche, stratifica i pazienti per rischio, supporta le decisioni cliniche in tempo reale, accelera la scoperta di nuovi farmaci, ottimizza il disegno degli studi. In molti contesti produce risultati che reggono il confronto con l’expertise umana e in alcuni casi, la superano.<\/p>\n\n\n\n
Ma c’\u00e8 una domanda che l’algoritmo non risponde da solo: questo modello \u00e8 difendibile?<\/p>\n\n\n\n
Non nel senso tecnico. Nel senso che conta quando il modello incontra il mondo reale, un reviewer EMA, un comitato etico, un organismo notificato per la marcatura CE, un investitore in fase di due diligence, un giudice in un contesto di responsabilit\u00e0 clinica. In tutti questi contesti, la qualit\u00e0 tecnica del modello \u00e8 necessaria ma non sufficiente. Ci\u00f2 che viene chiesto \u00e8 la capacit\u00e0 di dimostrare quella qualit\u00e0 attraverso documentazione strutturata, tracciabile, firmata da chi pu\u00f2 rispondere delle scelte metodologiche.<\/p>\n\n\n\n
Questa \u00e8 la lacuna sistematica nell’adozione dell’AI in medicina. Non riguarda la tecnologia. Riguarda la validazione.<\/p>\n\n\n\n
La radiologia e la patologia digitale sono tra i campi in cui l’AI ha prodotto i risultati pi\u00f9 impressionanti. Modelli che identificano lesioni polmonari, classificano preparati istologici, rilevano retinopatia diabetica con accuratezza paragonabile o superiore allo specialista.<\/p>\n\n\n\n
Il problema non \u00e8 l’accuratezza sul dataset di sviluppo. \u00c8 la tenuta del modello fuori da quel dataset.<\/p>\n\n\n\n
Un modello addestrato su immagini acquisite con un’apparecchiatura specifica, in una popolazione specifica, in un centro specifico, pu\u00f2 degradare significativamente quando viene applicato in un contesto diverso. Questo si chiama distributional shift<\/em> ed \u00e8 uno dei problemi metodologici pi\u00f9 documentati nell’AI clinica.<\/p>\n\n\n\n La validazione esterna \u00e8 il requisito minimo per poter affermare che il modello funziona, non solo che ha funzionato. TRIPOD+AI, la linea guida di reporting per i modelli predittivi con AI pubblicata sul BMJ nell’aprile 2024, la include tra i requisiti espliciti di rendicontazione. I reviewer delle riviste pi\u00f9 rigorose la cercano. Gli organismi notificati per i dispositivi medici AI la pretendono.<\/p>\n\n\n\n Senza validazione esterna documentata, un modello con AUC 0.94 \u00e8 un modello che discrimina bene in un contesto controllato. Non \u00e8 un modello clinicamente affidabile.<\/p>\n\n\n\n I clinical decision support system basati su AI \u2014 per il triage in pronto soccorso, per la stratificazione del rischio in oncologia, per la gestione della sepsi \u2014 sono tra le applicazioni con il maggiore impatto potenziale e il maggiore rischio metodologico.<\/p>\n\n\n\n Il rischio non \u00e8 che l’algoritmo sbagli. \u00c8 che sbaglia in modo sistematico su sottogruppi specifici di pazienti \u2014 e che questo bias non venga rilevato prima del deployment.<\/p>\n\n\n\n La valutazione delle performance del modello disaggregata per sesso, et\u00e0, etnia, comorbidit\u00e0 \u2014 quella che in letteratura metodologica viene chiamata fairness analysis<\/em> \u2014 \u00e8 un requisito esplicito dell’AI Act per i sistemi ad alto rischio in ambito sanitario, declinato nell’Art. 10 sulla data governance e nella gestione dei bias nei dataset di training e validazione. \u00c8 anche uno degli elementi pi\u00f9 frequentemente assenti nella documentazione che accompagna questi strumenti.<\/p>\n\n\n\n Un algoritmo che performa bene in media ma peggiora sistematicamente su pazienti anziani, su popolazioni sottorappresentate nel dataset di training, o su presentazioni cliniche atipiche, non \u00e8 uno strumento equo. E in un contesto regolatorio o legale, l’assenza di questa analisi \u00e8 una vulnerabilit\u00e0 concreta.<\/p>\n\n\n\n L’AI applicata alla farmacovigilanza \u2014 per il rilevamento automatico di segnali di sicurezza, per l’analisi di grandi volumi di dati real-world post-marketing \u2014 sta diventando standard in molte organizzazioni farmaceutiche e nelle agenzie regolatorie stesse.<\/p>\n\n\n\n Ma i dati real-world portano con s\u00e9 problemi strutturali che nessun modello risolve automaticamente: confounding by indication, missing data non casuali, eterogeneit\u00e0 delle fonti, variabilit\u00e0 nella qualit\u00e0 della codifica diagnostica.<\/p>\n\n\n\n Un sistema di farmacovigilanza basato su AI che non documenta esplicitamente come questi problemi sono stati affrontati \u2014 con quale framework metodologico, con quali assunzioni, con quali analisi di sensibilit\u00e0 \u2014 produce segnali che non possono essere interpretati con fiducia. E in un contesto in cui un falso segnale pu\u00f2 bloccare un farmaco efficace, o un segnale mancato pu\u00f2 causare danni a pazienti, le conseguenze non sono solo metodologiche.<\/p>\n\n\n\n EMA ha pubblicato framework e guidance specifici sull’uso dei real-world data nelle submission regolatori \u2014 tra cui il Data Quality Framework for EU Medicines Regulation: application to Real-World Data (EMA\/503781\/2024, adottato dal CHMP il 16 marzo 2026) e il Reflection Paper on the use of RWD in non-interventional studies a supporto del processo decisionale regolatorio. La documentazione metodologica non \u00e8 un’opzione \u2014 \u00e8 una condizione.<\/p>\n\n\n\n L’AI sta cambiando il modo in cui si progettano gli studi clinici. Strumenti che ottimizzano il disegno adattativo, che identificano i criteri di eleggibilit\u00e0 pi\u00f9 efficienti, che costruiscono comparatori sintetici a partire da dati storici o real-world. Applicazioni che riducono costi, tempi e in alcuni casi la necessit\u00e0 di esporre pazienti a trattamenti subottimali.<\/p>\n\n\n\n Il problema metodologico \u00e8 strutturale: le scelte che questi strumenti fanno \u2014 quali pazienti includere nel comparatore sintetico, come pesare le covariate, come definire l’endpoint emulato \u2014 non sono neutrali. Sono scelte analitiche con implicazioni dirette sulla validit\u00e0 e sull’interpretabilit\u00e0 dei risultati.<\/p>\n\n\n\n Quando queste scelte vengono fatte all’interno di un algoritmo, senza documentazione esplicita e senza un framework metodologico che le giustifichi, il risultato \u00e8 uno studio che produce numeri ma non produce evidenza difendibile. Un reviewer EMA o FDA che non trova la giustificazione metodologica di ogni scelta critica ha tutti gli strumenti per richiedere integrazioni \u2014 o per bloccare la submission.<\/p>\n\n\n\n L’AI nella drug discovery ha prodotto risultati straordinari \u2014 dalla predizione della struttura proteica all’identificazione di nuovi target terapeutici, dalla generazione di molecole candidate alla previsione della tossicit\u00e0. Applicazioni che comprimono anni di ricerca in mesi.<\/p>\n\n\n\n Ma il percorso dalla scoperta computazionale alla submission regolatoria \u00e8 lungo, e il salto metodologico tra i due estremi \u00e8 spesso sottovalutato.<\/p>\n\n\n\n Un modello che identifica un target promettente o genera una molecola candidata deve essere accompagnato da documentazione che attesti la solidit\u00e0 del processo \u2014 le assunzioni del modello, i limiti del dataset di training, la logica di selezione tra i candidati, la gestione dell’incertezza predittiva. Quando questa documentazione manca, il passaggio alla fase sperimentale avviene su basi che non sono verificabili n\u00e9 riproducibili.<\/p>\n\n\n\n In un contesto in cui il costo di un fallimento in fase clinica si misura in centinaia di milioni, la validazione metodologica del processo computazionale a monte non \u00e8 un costo \u2014 \u00e8 un’assicurazione.<\/p>\n\n\n\n Il deployment di un modello AI in un contesto clinico non \u00e8 la fine del processo. \u00c8 l’inizio di una fase in cui il modello incontra dati reali, popolazioni reali, variazioni che il dataset di training non aveva previsto.<\/p>\n\n\n\n Il model drift \u2014 la degradazione delle performance nel tempo a causa di cambiamenti nella distribuzione dei dati di input \u2014 \u00e8 un fenomeno documentato e prevedibile. Ma prevedibile non significa automaticamente gestito.<\/p>\n\n\n\n Un piano di monitoraggio post-deployment che non definisce le metriche di performance da monitorare, le soglie di allerta, le procedure di aggiornamento del modello e i criteri per la sospensione dell’uso, non \u00e8 un piano \u2014 \u00e8 un’intenzione. L’AI Act, all’Art. 72, impone ai provider di sistemi ad alto rischio l’obbligo di istituire un sistema di monitoraggio post-market strutturato, documentato e integrato nella documentazione tecnica \u2014 attivo dalla messa in commercio e per tutta la vita del sistema. Gli organismi notificati lo verificano.<\/p>\n\n\n\n In tutti questi contesti, il pattern \u00e8 lo stesso. Lo strumento \u00e8 spesso tecnicamente solido. Il team che lo ha sviluppato conosce il proprio dominio. I risultati, nel contesto di sviluppo, sono convincenti.<\/p>\n\n\n\n La lacuna emerge quando il modello deve essere difeso fuori da quel contesto \u2014 davanti a un reviewer che non conosce le scelte fatte internamente, davanti a un regolatore che applica standard normativi specifici, davanti a un investitore che deve valorizzare un asset senza poterlo aprire.<\/p>\n\n\n\n In quel momento, ci\u00f2 che manca non \u00e8 un algoritmo migliore. \u00c8 un documento firmato da qualcuno che pu\u00f2 rispondere delle scelte metodologiche, che conosce i requisiti normativi vigenti, e che ha condotto la validazione con indipendenza rispetto a chi ha sviluppato il modello.<\/p>\n\n\n\n L’indipendenza non \u00e8 un dettaglio formale. \u00c8 la condizione che rende il giudizio credibile.<\/p>\n<\/blockquote>\n","protected":false},"excerpt":{"rendered":"Algoritmi di supporto decisionale clinico<\/h2>\n\n\n\n
Farmacovigilanza e analisi dei dati real-world<\/h2>\n\n\n\n
Progettazione e ottimizzazione degli studi clinici<\/h2>\n\n\n\n
Drug discovery e target identification<\/h2>\n\n\n\n
Monitoraggio post-deployment<\/h2>\n\n\n\n
La lacuna non \u00e8 tecnica<\/h2>\n\n\n\n
\n