Uno studio recente ha sollevato preoccupazioni sull'affidabilità della versione gratuita di ChatGPT, il popolare chatbot di OpenAI, nel fornire informazioni accurate relative ai farmaci. Una ricerca condotta dai farmacisti del College of Pharmacy dell'Università di Long Island rivela che le risposte di ChatGPT alle domande relative ai farmaci sono spesso imprecise o incomplete. I risultati sottolineano la necessità di cautela tra i pazienti e gli operatori sanitari che si affidano a ChatGPT per le informazioni farmaceutiche.
Lo studio prevedeva di porre a ChatGPT 39 domande relative alla droga, di cui solo 10 hanno ricevuto risposte soddisfacenti. Le restanti 29 domande erano indirizzate in modo impreciso, incomplete o entrambe le cose. Questa incoerenza nelle risposte evidenzia una lacuna significativa nella capacità del chatbot di fornire informazioni affidabili sui farmaci.
Inadeguatezza nel rispondere alle domande farmaceutiche
Il gruppo di ricerca, guidato da Sara Grossman, ha valutato le prestazioni di ChatGPT confrontando le sue risposte con quelle dei farmacisti che hanno risposto alla stessa serie di domande. Le domande erano vere e proprie richieste ricevute dal servizio di informazione sui farmaci del College of Pharmacy dell'Università di Long Island da gennaio 2022 ad aprile 2023. Delle 45 domande iniziali, sei sono state escluse a causa della mancanza di risposte basate sulla letteratura.
ChatGPT non è riuscito a rispondere direttamente a 11 domande, ha fornito risposte inaccurate a 10 e ha dato risposte errate o incomplete ad altre 12. I ricercatori hanno anche notato che ChatGPT, quando richiesto, ha fornito riferimenti solo in otto risposte, tutte citando fonti inesistenti. Ciò solleva preoccupazioni sui processi di riferimento e verifica del chatbot.
Un esempio particolarmente allarmante è stata l'affermazione errata di ChatGPT secondo cui non esiste alcuna interazione farmacologica tra il farmaco antivirale Paxlovid e il farmaco antipertensivo Verapamil. In realtà, la combinazione di questi farmaci può portare ad un eccessivo abbassamento della pressione sanguigna, con gravi rischi per la salute. Questo errore è particolarmente preoccupante dato che molti utenti potrebbero non essere consapevoli delle limitazioni dei dati di ChatGPT, il che potrebbe portare a conseguenze dannose.
Implicazioni per l’intelligenza artificiale nel settore sanitario
I risultati dello studio sono fondamentali nel contesto della popolarità e dell'uso diffuso di ChatGPT. Lanciata nel 2022, ChatGPT è diventata rapidamente una delle applicazioni Internet consumer in più rapida crescita, attirando circa 1,7 miliardi di visite a livello globale solo nel mese di ottobre. La sua versione gratuita, tuttavia, è limitata ai dati disponibili fino a settembre 2021, lasciandolo potenzialmente fuori contatto con i recenti sviluppi e innovazioni mediche.
Sebbene la versione a pagamento di ChatGPT ora includa funzionalità di navigazione in Internet in tempo reale, lo studio si è concentrato principalmente sulla versione gratuita per riflettere l’esperienza della popolazione generale. I ricercatori sottolineano l'importanza di verificare le risposte di ChatGPT con operatori sanitari fidati o fonti mediche affidabili.
Questo studio serve a ricordare in modo cruciale i limiti dell’intelligenza artificiale in settori sensibili come l’assistenza sanitaria. Sebbene le tecnologie di intelligenza artificiale come ChatGPT offrano vantaggi significativi in termini di accessibilità e comodità, il loro stato attuale richiede un attento esame, soprattutto quando si tratta di questioni di salute e benessere. Si consiglia agli utenti di trattare le informazioni provenienti da tali fonti con cautela e di consultare sempre operatori sanitari qualificati per un consiglio medico.
Lo studio del College of Pharmacy della Long Island University funge da campanello d’allarme sui limiti dell’intelligenza artificiale nel settore sanitario, in particolare nel fornire informazioni accurate sui farmaci. Poiché l’intelligenza artificiale continua a integrarsi in vari aspetti della nostra vita, è essenziale rimanere consapevoli dei suoi limiti e avvicinarsi al suo utilizzo, soprattutto in aree critiche come quella sanitaria, con consapevole cautela.