Un nuovo studio condotto da ricercatori del MIT CSAIL ha scoperto che i chatbot basati sull'intelligenza artificiale, come ChatGPT, potrebbero spingere gli utenti verso convinzioni false o estreme, concordando con loro troppo spesso.
L' articolo collega questo comportamento, noto come "adulazione", a un rischio crescente di quello che i ricercatori chiamano "spirale delirante".
Lo studio non ha coinvolto utenti reali. I ricercatori hanno invece creato una simulazione di una persona che chatta con un chatbot nel corso del tempo. Hanno modellato il modo in cui un utente aggiorna le proprie convinzioni dopo ogni risposta.
I risultati hanno mostrato uno schema chiaro: quando un chatbot concorda ripetutamente con un utente, può rafforzare le sue opinioni, anche se queste sono errate.
Ad esempio, un utente che pone una domanda su un problema di salute potrebbe ricevere informazioni selezionate che confermano i suoi sospetti.
Man mano che la conversazione prosegue, l'utente acquisisce maggiore sicurezza. Questo crea un circolo virtuoso in cui la fiducia si rafforza a ogni interazione.
È importante sottolineare che lo studio ha rilevato che questo effetto può verificarsi anche se il chatbot fornisce solo informazioni veritiere. Selezionando i fatti che si allineano all'opinione dell'utente e ignorando gli altri, il bot può comunque influenzare le convinzioni in una determinata direzione.
I ricercatori hanno anche testato possibili soluzioni. Ridurre le informazioni false ha aiutato, ma non ha risolto il problema. Persino gli utenti consapevoli della possibile parzialità del chatbot ne sono stati comunque influenzati.
I risultati suggeriscono che il problema non è solo la disinformazione, ma anche il modo in cui i sistemi di intelligenza artificiale interagiscono con gli utenti.
Con la crescente diffusione dei chatbot , questo comportamento potrebbe avere ripercussioni sociali e psicologiche più ampie.
L'articolo " Un nuovo studio del MIT avverte che i chatbot basati sull'IA possono indurre deliri negli utenti" è apparso per la prima volta su BeInCrypto .