Come può l’IA supportare il sistema sanitario ed in particolare quello italiano? Quali sono le modalità di governance che possano rendere il nostro paese competitivo a livello internazionale nella programmazione e nello sviluppo dei sistemi di IA?
A queste e molte altre domande risponde il documento pubblicato dal Consiglio Superiore di Sanità.
I sistemi di intelligenza artificiale come strumento di supporto alla diagnostica
Dopo un’inziale analisi del rapporto tra IA e Salute, con tanto di definizione degli aspetti tecnologici e lo stato dell’arte dei sistemi operanti in diagnostica, gli esperti di settore hanno redatto una serie di proposte operative per l’implementazione dell’IA nel SSN.
L’attenzione dei redattori si è concetrata soprattutto sui percorsi diagnostici e terapeutici, che potrebbero essere modificati significativamente dall’introduzione di questa tecnologia.
Per poter introdurre in modo sicuro nella pratica clinica i sistemi di IA e competere a livello internazionale, bisogna, però, conoscere e riconoscerne i rischi.
Quali sono i rischi?
Uno sviluppo incontrollato e non governato dell’Intelligenza Artificiale potrebbe incorrere in potenziali rischi derivanti:
1) dall’uso di sistemi di AI privi di una rigorosa validazione scientifica;
2) dalla mancanza di controllo sulla modalità di processazione dei dati da parte dai sistemi esperti;
3) da possibili violazioni della privacy degli utenti;
4) da discriminazioni (ad esempio di razza e/o di genere) introdotte dalla programmazione degli algoritmi;
5) dall’assenza di informazioni circa la sicurezza e la riproducibilità nell’uso dei sistemi di Intelligenza Artificiale;
6) dalla mancanza di norme circa la responsabilità professionale del Medico nell’interazione con gli algoritmi;
7) dall’impreparazione del personale Medico e sanitario al corretto utilizzo dei sistemi di IA e all’appropriata modalità di comunicazione del loro utilizzo ai pazienti;
8) dall‘incomprensione da parte dell’utente/cittadino dei reali benefici e limitazioni dei sistemi di IA.
Quali gli interventi previsti?
Il team di esperti che ha lavorato al documento ha delineato una serie di interventi volti a migliorare e regolamentare l’utilizzo di AI nella pratica clinica e diagnostica.
- realizzazione di infrastrutture organizzative, informatizzate, a livello locale, regionale o nazionale, di data stewardship e data governance;
- creazione di una struttura di governance dei sistemi di IA da parte delle agenzie regolatorie italiane, in particolare il Ministero della Salute per ciò che riguarda i dispositivi medici e AIFA per gli eventuali aspetti terapeutici, con lo scopo di stabilire delle regole rigorose per l’approvazione e la registrazione di tali sistemi;
- predisposizione di Linee Guida nazionali riguardanti le modalità di integrazione e il corretto utilizzo dei sistemi di IA nella diagnostica, in accordo con le società scientifiche di riferimento;
- creazione di un osservatorio nazionale permanente presso il Ministero della Salute, per il monitoraggio delle performance dei sistemi di AI immessi sul mercato (analisi post-market);
- predisposizione di moduli formativi universitari e post-universitari per migliorare le conoscenze e competenze in materia di AI del personale medico e delle professioni sanitarie;
- integrazione di elementi metodologici in tema di IA all’interno dei programmi della scuola secondaria superiore e creazione di contenuti informativi, anche tramite canali informatici, al servizio del cittadino.
Considerazioni sull’uso degli algoritmi di IA
Numerose le criticità poste dall’utilizzo di Machine Learning / IA in Sanità.
Da una parte, durante la realizzazione di questi sistemi è fondamentale utilizzare delle strategie che siano in grado di assicurare buone prestazioni su casi non visti nella fase di apprendimento (ossia assicurarsi che l’approccio addestrato abbia una buona capacità di generalizzazione); dall’altra è inevitabile che il sistema che viene appreso dai dati sia indissolubilmente legato alle procedure di raccolta e alle eventuali distorsioni presenti nei dati stessi.
I sistemi di intelligenza artificiale come strumento di supporto alla diagnostica, pag. 13
La pandemia ha evidenziato le criticità dell’utilizzo di questi sistemi, con il caveat di procedere in maniera più rigorosa prima di adottarli nella pratica clinica.
Per dimostrare l’affidabilità di questi sistemi sono necessari, infatti, degli studi clinici rigorosi, che possano dimostrare la mancanza di bias di selezione e la loro sicurezza ed efficacia clinica.
Tutto ciò presuppone la definizione di una governance da parte delle agenzie regolatorie italiane. Questione già affrontata negli Stati Uniti dalla FDA e in Europa nel Regolamento (UE) 2017/745, da cui potrebbe prendere ispirazione anche l’Italia.
Nel documento del Consiglio Superiore di Sanità si delinea la necessità di predisporre delle Linee Guida nazionali sulle modalità di integrazione e il corretto uso dell’IA nella diagnostica.
Viene, inoltre, evidenziato come un osservatorio nazionale permanente possa servire nel monitoraggio delle performance dei sistemi immessi sul mercato.
La comunità internazionale si è già portata avanti. Ha definito, infatti, le procedure standard per l’organizzazione dei report degli studi sull’uso dell’IA in medicina. Ed hanno stabilito dei criteri minimi qualitativi da rispettare in tutte le fasi della costruzione del modello di IA.
La validazione scientifica dei sistemi di AI in medicina, e in particolare per sviluppare strumenti diagnostici, è condizione assolutamente indispensabile per il loro impiego in un contesto assistenziale.
