Google utilizza l'intelligenza artificiale per rispondere a domande relative a problemi di salute. Alcuni analisti lo ritengono preoccupante, considerando che la funzione Panoramica AI può fornire informazioni inaffidabili.
I medici affermano che le panoramiche AI possono essere preoccupanti, soprattutto quando si rispondono a domande sulla salute personale. Secondo un recente rapporto del New York Times, la funzione ha il potenziale per fornire informazioni inesatte, anche se può anche guidare le persone verso le cure mediche necessarie.
L'errore di ricerca delle panoramiche AI alimenta i sentimenti di allucinazioni dell'IA
Google ha introdotto le panoramiche AI, una funzionalità che genera riepiloghi dei contenuti dai siti Web e li mostra nella pagina dei risultati di ricerca di Google. Nel giro di pochi giorni dal lancio, la funzionalità ha mostrato una vasta gamma di imprecisioni, poiché basava le sue risposte su fonti errate. Un evento che alimenta ulteriormente la sensazione che l’intelligenza artificiale sia incline alle allucinazioni e possa generare informazioni fattivamente errate.
Leggi anche: Google limita le panoramiche AI per query satiriche e senza senso
I risultati di ricerca relativi alla salute che somministrano una dose giornaliera di roccia o chiedono agli utenti di mangiare pizze incollate hanno generato una reazione negativa. AI Overviews cita fonti come l'Organizzazione Mondiale della Sanità, WebMD, PubMed e Mayo Clinic. Tuttavia, non si limitano a queste fonti. Gli analisti affermano che lo strumento estrae informazioni da Reddit, Wikipedia, diversi blog e siti di e-commerce.
Hema Budaraju, direttrice senior della gestione dei prodotti di Google, ha affermato che esistono ulteriori barriere per le domande relative alla salute, ma ha rifiutato di rivelare ulteriori dettagli. Hema ha aggiunto che alcune query non attivano le panoramiche AI, ad esempio, se il sistema rileva una situazione di autolesionismo.
Google ha affermato che AI Overviews si integra con Google Knowledge Graph, una knowledge base contenente dati estratti da diverse fonti, ma non ha fornito dettagli sui siti Web che supportano l'output della funzione di ricerca assistita dall'intelligenza artificiale.
Google mostra più panoramiche sull'intelligenza artificiale per le query sulla salute
I risultati tradizionali, spesso definiti “dieci collegamenti blu”, sono stati utili per gli utenti in quanto potevano distinguere tra fonti mediche affidabili e collegamenti a pagamento o siti Web meno credibili. Con AI Overviews, lo scenario è cambiato. Ora, un unico blocco di testo mostra informazioni raccolte da diverse fonti, il che, secondo gli analisti, crea confusione.
Kate Knibbs di Wired ha detto in un podcast :
"Se digiti qualcosa in asma o ho il diabete o fondamentalmente se stai cercando qualsiasi cosa che riguardi le malattie, è molto probabile che ancora oggi visualizzi una panoramica dell'intelligenza artificiale. Voglio dire, non sono tutti; è ancora circa il 63%. E penso che dipenda”.
Alcuni medici, come il dottor Dariush Mozaffarian , affermano che le panoramiche AI mostrano alcuni fatti corretti e li riassumono in risposte, ma non fanno differenza tra prove provenienti da studi osservazionali e studi randomizzati.
Un altro livello di disinformazione si aggiunge quando la funzionalità confonde le informazioni. Ad esempio, “il tè verde contiene antiossidanti e aiuta a prevenire il cancro”. Mentre il primo è vero, il secondo non è stato clinicamente dimostrato. Quando tali affermazioni vengono elencate insieme, danno la falsa impressione che siano credibili.
Google ha limitato le panoramiche AI
Le persone che osservano l’implementazione dell’IA consigliano cautela quando si avvicinano ai risultati di ricerca dell’IA relativi alla salute. Dicono che gli utenti dovrebbero considerare le scritte in piccolo sotto alcune risposte che dicono: "Questo è solo a scopo informativo". Il rapporto del NYTimes ha rilevato che l’intelligenza artificiale generativa è in fase sperimentale e gli utenti dovrebbero consultare i medici in qualsiasi condizione grave.
Leggi anche: Gli aggiornamenti dell'algoritmo core di Google e le panoramiche AI stanno riducendo il traffico degli editori
In una dichiarazione del 30 maggio, Google ha affermato di aver ridotto l’utilizzo delle panoramiche AI in alcune categorie. I dati di una società SEO, Brightedge, confermano la posizione di Google, suggerendo che il taglio era iniziato ancor prima dell'annuncio della società.
Altri rapporti affermano inoltre che Google ha iniziato a ripristinare le panoramiche AI per determinate categorie ancor prima che i netizen iniziassero a deriderlo per risposte senza senso. Tuttavia, si sostiene che la categoria Salute continui a mostrare un numero elevato di panoramiche AI. Knibbs dice:
"Ho parlato con altri ricercatori SEO che avevano scoperto che il settore sanitario stava ancora producendo molte panoramiche AI."
Knibbs afferma di aver testato alcune query relative alla salute e di aver trovato risultati diversi entro poche ore dal tentativo, il che dimostra che Google sta lavorando per migliorare i risultati. Lei disse: “OK, ci stanno provando. Non so se stanno facendo un lavoro abbastanza buono, ma ci stanno sicuramente provando.
Reportage criptopolita di Aamir Sheikh