Nel tentativo di fare chiarezza nelle acque spesso torbide dell’intelligenza artificiale (AI) nel settore sanitario, l’Health and Human Services (HHS) ha istituito una misura fondamentale: l’AI Transparency Rule (HTI-1). Sebbene lodato per il suo tentativo di illuminare le complessità dei modelli predittivi di intelligenza artificiale, gli esperti avvertono che la regola, sebbene benefica, potrebbe non riuscire a fornire una soluzione olistica alle sfide radicate in questa tecnologia in rapido progresso.
L’AI Transparency Rule nasce dal riconoscimento di una pervasiva mancanza di trasparenza nel mercato dell’IA sanitaria, in particolare per quanto riguarda i modelli predittivi. Jeff Smith, vicedirettore della certificazione e dei test presso l'ufficio del coordinatore nazionale (ONC) dell'HHS per la tecnologia dell'informazione sanitaria, sottolinea l'urgenza alla base di questa iniziativa. La norma cerca di affrontare la scarsità di informazioni riguardanti progettazione, sviluppo, test, formazione e valutazione dei modelli di intelligenza artificiale predittiva, che ha portato a danni documentati che colpiscono milioni di americani.
Fare luce sui principi della regola
Nell’ambito della regola sulla trasparenza dell’intelligenza artificiale, l’ONC ha finalizzato due categorie di politiche generali. In primo luogo, la norma impone la disponibilità di informazioni complete su come gli interventi predittivi di supporto alle decisioni (DSI) sono progettati, sviluppati, addestrati, valutati e dovrebbero essere utilizzati. Ciò segna un passo cruciale verso la possibilità per gli utenti di comprendere più a fondo gli algoritmi di intelligenza artificiale che utilizzano.
Inoltre, la norma stabilisce che la gestione del rischio svolge un ruolo fondamentale nell’implementazione dei DSI predittivi e che la governance deve guidarne la progettazione e l’implementazione. Stabilendo un quadro che includa la divulgazione delle informazioni e la gestione del rischio, la norma mira a creare una base di riferimento per valutare la qualità degli algoritmi di intelligenza artificiale su scala nazionale.
Mandar Karhade, Leader of Data and Analytics presso Avalere Health, sottolinea che l’intento alla base di alcuni modelli di intelligenza artificiale non è sempre trasparente. Che l’obiettivo sia la diagnosi, il risparmio sui costi o un altro obiettivo, la mancanza di chiarezza pone potenziali sfide. Le cartelle cliniche elettroniche (EHR) emergono come un dominio sensibile, con funzionalità di intelligenza artificiale come il "completamento automatico" di Oracle che sollevano preoccupazioni sull'accuratezza e sulle aggiunte involontarie di dati.
Jeff Smith traccia un parallelo tra la regola sulla trasparenza dell’intelligenza artificiale e un’etichetta nutrizionale per gli alimenti, sottolineandone il ruolo nel fornire informazioni essenziali. Meghan O'Connor, esperta legale di Quarles & Brady, contesta questa analogia, sottolineando la natura soggettiva e incommensurabile delle informazioni divulgate. Ciò solleva interrogativi su come gli sviluppatori di IT sanitari comunicano tali informazioni e su come i fornitori le integrano nella loro analisi dei rischi.
Valutazione della portata della regola di trasparenza dell'IA
Niam Yaraghi, ricercatore senior non residente presso la Brookings Institution, offre una prospettiva critica. Pur riconoscendo il nobile obiettivo della regola di garantire l'equità nell'intelligenza artificiale, la ritiene in qualche modo reazionaria. Yaraghi sostiene politiche che promuovano rapidi progressi nell’intelligenza artificiale e affrontino barriere come i silos di dati nel sistema sanitario.
Nell’orientarsi nel labirinto della trasparenza dell’IA, la regola rappresenta un significativo passo avanti. Tuttavia, mentre il panorama sanitario è alle prese con la natura in evoluzione dell’IA, permangono alcune domande: può la trasparenza da sola garantire un uso responsabile ed equo dell’IA nel settore sanitario ? Esistono limiti intrinseci alla capacità della norma di affrontare le sfide dinamiche poste dall’intersezione tra tecnologia e assistenza sanitaria? Mentre le parti interessate procedono con cautela in questa arena in evoluzione, la ricerca dell’equilibrio tra innovazione e responsabilità rimane fondamentale.