Nel mondo della sanità da qualche anno è entrata l’intelligenza artificiale, con obiettivi ambiziosi, quali telemedicina e semplificazione delle procedure. Ma insieme ai dubbi etici e di privacy l’Oms, nel suo “Report of the knowledge community on responsible artificial intelligence in health: from promise to practice”, stilato dall’Ufficio regionale per l’Europa, individua un’altra possibilità criticità: la gestione futura di queste tecnologie. Perché un conto è avere le risorse per acquistare un algoritmo, un altro quello di potersi permettere di controllare una tecnologia per anni, aggiornare i dati, formare medici e infermieri, verificarne gli errori e, se necessario, smettere di utilizzarla.
Sanità e intelligenza artificiale: il nodo della disuguaglianza
Secondo il rapporto dell’Oms, che raccoglie le riflessioni emerse dal confronto avvenuto nell’arco di cinque settimane tra professionisti della salute, ricercatori, esperti di intelligenza artificiale, decisori pubblici e specialisti di regolamentazione, l’innovazione tende a concentrarsi negli ospedali e nei territori che dispongono già di infrastrutture digitali, dati e competenze, mentre quelli con meno risorse rischiano di perdere terreno. La disuguaglianza può crescere anche quando l’algoritmo funziona correttamente: per esempio, un modello validato in un grande ospedale può non adattarsi all’assistenza primaria, alle zone rurali o a strutture meno attrezzate. Il rischio è quindi ampliare divari già esistenti.
C’è poi un secondo elemento che può allargare le distanze tra i sistemi sanitari, ovvero il costo dell’intelligenza artificiale, che non coincide solo con il suo prezzo d’acquisto. Una volta introdotto un sistema, infatti, servono risorse per la gestione e la qualità dei dati, gli aggiornamenti, la cybersecurity, le verifiche periodiche e la formazione di chi dovrà utilizzarlo. E le strutture più piccole rischiano di non riuscire ad affrontare queste spese.
Il rapporto, inoltre, mette in discussione l’idea che l’IA possa diventare una scorciatoia verso una sanità meno costosa. Molte applicazioni promettenti, infatti, funzionare durante la fase pilota, quando dispongono di finanziamenti e risorse dedicate, ma faticano a diventare parte della pratica ordinaria.
Il fattore umano nella sanità alle prese con l’intelligenza artificiale
Il rapporto individua anche un rischio meno immediato, ovvero dare troppa fiducia ad un algoritmo che funziona bene: si tratta del cosiddetto automation bias, cioè la tendenza ad affidarsi alle indicazioni prodotte da un sistema automatizzato anche quando esistono elementi che suggeriscono una valutazione diversa. Ma un professionista, per essere in grado di contraddire l’algoritmo, deve avere competenze, tempo e autorità per farlo. Il paradosso è che il problema diventa più difficile proprio quando l’IA si dimostra affidabile:infatti, più un sistema fornisce indicazioni corrette, più diventa importante preservare la capacità dei professionisti di valutarle criticamente.
Un ultimo spunto dato dal documento riguarda un’altra capacità che potrebbe misurare la maturità di un sistema sanitario: saper rinunciare all’intelligenza artificiale: buone prestazioni tecniche non garantiscono sempre utilità clinica e, in alcuni casi, la scelta responsabile può essere non utilizzare l’IA. Perché anche un algoritmo efficace può subire il cosiddetto model drift, ovvero un calo di prestazione, dovuto al cambiamento dei dati e delle pratiche cliniche. Per questo servono controlli continui. Il rischio, dunque, non è adottare l’IA troppo lentamente, ma farlo più velocemente di quanto i sistemi sanitari siano capaci di governarla. Servono responsabilità chiare, dati di qualità e interoperabili, controlli nel tempo, competenze del personale e partecipazione di pazienti e professionisti. Se questi fattori non saranno tenuti in conto, conclude il rapporto, il rischio è che l’IA non riduca le distanze, ma favorisca i sistemi sanitari che dispongono già delle risorse necessarie per utilizzarla.
