“E’ disponibile finalmente il documento ‘I sistemi di intelligenza artificiale come strumento di supporto alla diagnostica’, frutto del lavoro di un gruppo del Consiglio Superiore di Sanità a cui ho avuto l’onore di partecipare insieme a stimati colleghi”.
È quanto ha fatto appena sapere Eugenio Santoro (Istituto di Ricerche Farmacologiche Mario Negri), coautore del documento e – come i nostri lettori sanno bene – autore abituale di approfondimenti scientifici per HealthTech360.
“Nel documento – afferma Santoro – sono elencate una serie di proposte operative finalizzate sia all’introduzione in modo sicuro dei software di AI nella pratica clinica sia alla implementazione di infrastrutture e di modalità di governance che possano rendere il nostro Paese competitivo a livello internazionale nella programmazione e nello sviluppo dei sistemi di AI. Il documento vuole essere una risposta istituzionale alla richiesta della AI in sanità. Uno sviluppo incontrollato e non governato dell’AI, infatti, – prosegue Santoro – non è scevro da potenziali rischi, derivanti, ad esempio, dall’uso di sistemi di AI privi di una rigorosa validazione scientifica, dalla mancanza di controllo sui dati processati dai sistemi esperti, da possibili violazioni della privacy degli utenti e da discriminazioni introdotte dalla programmazione degli algoritmi; senza dimenticare le aspettative illusorie e fuorvianti per sanitari e pazienti derivanti da un utilizzo improprio dei sistemi di AI”.
Eugenio Santoro tornerà presto su questi temi con un approfondimento per i lettori di HealthTech360.
Di seguito, anticipiamo soltanto le “Conclusioni e proposte operative” tratte integralmente dal citato documento.
I sistemi di AI stanno entrando rapidamente nel mondo medico, con la prospettiva, più o meno a breve termine, di modificare significativamente i percorsi diagnostici e terapeutici, le modalità decisionali del Medico e, in ultimo, anche il rapporto Medico-Paziente.
Prima di poter essere impiegati in ambito assistenziale, i sistemi di AI necessitano di una rigorosa validazione scientifica, basata su studi metodologicamente solidi (prospettici, possibilmente randomizzati e condotti in ambienti clinici reali) che dimostrino la non inferiorità, o la superiorità, oltreché la costo-efficacia, rispetto al percorso diagnostico e decisionale convenzionale.
È, inoltre, importante dimostrare la sicurezza e la riproducibilità nell’uso del software, nonché considerare le emergenti problematiche etiche e legali inerenti la responsabilità professionale del Medico nell’interazione con gli algoritmi.
Per poter introdurre in modo sicuro nella pratica clinica i sistemi di AI e per competere in ambito internazionale nella realizzazione e nello sviluppo degli stessi, è auspicabile che, nel nostro Paese, siano attuati i seguenti interventi:
• realizzazione di una infrastruttura organizzativa, informatizzata, a livello locale, regionale o nazionale, di data stewardship e data governance;
• creazione di una struttura di governance dei sistemi di AI da parte delle agenzie regolatorie italiane, in particolare il Ministero della Salute per ciò che riguarda i dispositivi medici e AIFA per gli eventuali aspetti terapeutici, con lo scopo di stabilire delle regole rigorose per l’approvazione e la registrazione di tali sistemi;
• predisposizione di Linee Guida nazionali riguardanti le modalità di integrazione e il corretto utilizzo dei sistemi di AI nella diagnostica, in accordo con le società scientifiche di riferimento;
• creazione di un osservatorio nazionale permanente presso il Ministero della Salute, per il monitoraggio delle performance dei sistemi di AI immessi sul mercato (analisi post-market);
• predisposizione di moduli formativi universitari e post-universitari per migliorare le conoscenze e competenze in materia di AI del personale medico e delle professioni sanitarie;
• integrazione di elementi metodologici in tema di AI all’interno dei programmi della scuola secondaria superiore e creazione di contenuti informativi, anche tramite canali informatici, al servizio del cittadino.
