In una rivelazione scioccante che potrebbe avere implicazioni di vasta portata per il settore sanitario, UnitedHealthcare è sotto attento esame in Minnesota mentre affronta una causa relativa al presunto rifiuto sistematico delle richieste di assistenza sanitaria attraverso l’uso di un modello di intelligenza artificiale difettoso. Presentata per conto dei beni di due anziani, l'azione legale sostiene che UnitedHealthcare, in seguito all'acquisizione di Navihealth nel 2020, ha utilizzato un sistema di intelligenza artificiale con un allarmante tasso di errore del 90%, portando all'ingiusto rifiuto delle richieste di assistenza sanitaria per i pazienti anziani iscritto ai piani Medicare Advantage.
L'algoritmo difettoso di UnitedHealthcare
Il presunto uso improprio del modello nH Predict AI da parte di UnitedHealthcare è al centro della causa. La denuncia, elaborata dallo studio legale Clarkson, sostiene che questo sistema di intelligenza artificiale, presumibilmente dotato di un tasso di errore del 90%, ignora costantemente le raccomandazioni dei medici relative alle cure post-acute necessarie dal punto di vista medico per gli anziani.
La causa sottolinea che il modello nH Predict AI produce raccomandazioni di cura generiche che non tengono conto delle esigenze sfumate e individualizzate dei pazienti. Ancora più preoccupante, si sostiene che il modello di intelligenza artificiale sia in conflitto intenzionalmente con le regole di copertura di Medicare Advantage, servendo gli interessi finanziari di UnitedHealthcare. Per mantenere la conformità, la causa suggerisce che UnitedHealthcare abbia implementato una direttiva che ordina ai propri dipendenti di non deviare dalle previsioni generate dal modello di intelligenza artificiale, imponendo misure disciplinari a coloro che sfidano questa direttiva.
Impatto sull'assistenza agli anziani e conseguenze dei rifiuti guidati dall'intelligenza artificiale
Nell'intricato regno dei piani Medicare Advantage, le persone che sperimentano un soggiorno di tre giorni all'interno delle mura dell'ospedale generalmente si ritrovano con la prospettiva di indulgere nei comfort di una casa di cura per un encomiabile periodo fino a 100 giorni. Tuttavia, la tesi avanzata dalla causa presuppone che il modello nH Predict AI, con il suo discernimento digitale, limita audacemente questo diritto, riducendo ingiustificatamente il soggiorno a soli 14 giorni. Questa presunta trasgressione, come delineata nella denuncia, segna un allontanamento dalle norme consolidate e dalle disposizioni previste integrate nel quadro generale di Medicare Advantage.
Inoltre, l'azione legale afferma che quando il rifiuto delle richieste dei pazienti viene impugnato internamente o portato davanti a un giudice di diritto amministrativo federale, uno sconcertante 90% delle determinazioni del modello nH Predict AI vengono ribaltate. Questa statistica solleva seri interrogativi sull’accuratezza e l’affidabilità del processo decisionale basato sull’intelligenza artificiale. Dipinge il quadro di un sistema privo di revisione umana, minando ulteriormente la credibilità del processo di negazione di UnitedHealthcare.
La denuncia mette in luce la mancanza di trasparenza che circonda il modello nH Predict AI. Il rifiuto delle richieste dei pazienti, in appello, sarebbe stato annullato, indicando un difetto fondamentale nel processo decisionale. Inoltre, la causa sostiene che queste determinazioni non vengono comunicate ai medici dei pazienti, sollevando preoccupazioni circa l'opacità e la responsabilità del processo di rifiuto.
Smascherare le oscure realtà del modello di intelligenza artificiale difettoso di UnitedHealthcare
Con lo svolgersi della battaglia legale, il profondo impatto di un modello di intelligenza artificiale difettoso sul panorama sanitario diventa sempre più evidente. La causa sostiene che l'uso del modello nH Predict AI da parte di UnitedHealthcare non solo mette a repentaglio il benessere degli anziani, ma solleva anche questioni più ampie sulla responsabilità e sulla trasparenza delle decisioni guidate dall'intelligenza artificiale nel settore sanitario . Navigando nell’intersezione tra tecnologia e assistenza sanitaria, si innesca una domanda critica: come può il settore trovare un equilibrio tra l’innovazione tecnologica e l’imperativo di garantire la massima assistenza ed equità ai nostri anziani?