DPD, il corriere, ha recentemente dovuto affrontare una sfida inaspettata quando il suo chatbot basato sull'intelligenza artificiale ha funzionato male, portandolo a imprecare contro gli utenti e a criticare i servizi dell'azienda. L'incidente ha portato alle scuse di DPD e alla sospensione della funzione di chat dal vivo sul suo sito web.
DPD ha recentemente aggiornato la funzionalità chatbot del suo sito Web per fornire risposte più umane alle richieste degli utenti. L'azienda ha integrato un "modello linguistico di grandi dimensioni" (LLM) in stile ChatGPT nel chatbot come parte di questi aggiornamenti.
L'utente manipola Chatbot per fornire risposte inappropriate
Tuttavia, un tweet virale di Ashley Beauchamp ha rivelato che potrebbe essere manipolato per fornire risposte al di fuori dei parametri previsti dal DPD. Le interazioni di Beauchamp con il chatbot lo hanno portato a marchiare DPD come "la peggiore azienda di consegne al mondo" e a fare commenti espliciti.
Ashley Beauchamp, soprannominato "ChatDPD", ha condiviso una serie di screenshot su Twitter, dove le sue conversazioni con il chatbot hanno preso una svolta sorprendente. Nonostante gli sforzi del DPD per assicurarsi di non usare linguaggio volgare, ha risposto con "C***o sì!" Farò del mio meglio per essere il più utile possibile.'
I tweet di Beauchamp hanno guadagnato notevole popolarità, con oltre un milione di visualizzazioni. In risposta a questo incidente, DPD ha temporaneamente disabilitato la funzione livechat mentre lavora per risolvere il problema.
Testare i limiti del Chatbot
Beauchamp, apparentemente frustrato dalla performance, ha deciso di metterne alla prova i limiti chiedendogli di criticare DPD e persino di imprecare. I suoi sforzi hanno portato il chatbot a definire DPD "inaffidabile", "terribile" e "la peggiore azienda di consegne al mondo". È stato costretto a produrre una poesia e un haiku, evidenziandone i difetti.
L’incidente evidenzia una sfida comune quando si utilizzano chatbot basati sull’intelligenza artificiale e modelli linguistici di grandi dimensioni come ChatGPT. Sebbene questi modelli siano addestrati su grandi quantità di dati per fornire risposte utili e pertinenti, possono occasionalmente generare contenuti inaspettati o inappropriati di fronte a suggerimenti creativi.
Le IA, compresi i DPD, sono progettate per migliorare l'esperienza degli utenti, ma se non implementate in modo efficace possono portare a frustrazione e interazioni impersonali.
Implicazioni più ampie per l’intelligenza artificiale e le industrie creative
Ashley Beauchamp, una musicista, ha espresso preoccupazione per l'impatto dell'intelligenza artificiale sulle industrie creative come la composizione musicale. Sono stati sviluppati strumenti di intelligenza artificiale per generare interi brani musicali da suggerimenti basati su testo, sollevando interrogativi sulla proprietà intellettuale e sulla creatività.
I modelli linguistici di grandi dimensioni basati su testo, come ChatGPT, sono stati sottoposti a esame accurato per la potenziale rimozione di materiale protetto da copyright, sottolineando ulteriormente la necessità di un uso e di una regolamentazione responsabili dell’IA.
DPD ha confermato l'autenticità della conversazione con il chatbot e ha riconosciuto il problema. In un comunicato la DPD ha affermato che dopo un aggiornamento del sistema si è verificato un errore che ha portato l'elemento AI a produrre risposte inaspettate. Di conseguenza, la funzione AI è stata immediatamente disabilitata e si sta lavorando per risolvere il problema.
Precedenti casi di chatbot AI diventati canaglia
Questo incidente non è la prima volta che i chatbot basati sull’intelligenza artificiale diventano disonesti, sostituendo gli assistenti umani del servizio clienti. Negli Stati Uniti, il chatbot di una concessionaria Chevrolet è stato messo offline dopo che gli utenti l'hanno costretta a offrire SUV da 56.200 dollari per solo 1 dollaro.
L’intelligenza artificiale a volte può essere manipolata per produrre risposte inaspettate o divertenti quando gli utenti forniscono suggerimenti intelligenti.
Oltre al seguente incidente, le prestazioni di DPD come corriere sono state oggetto di esame accurato. Secondo una classifica stilata dall’organizzazione benefica Citizens Advice, DPD si è classificata al centro tra i corrieri del Regno Unito, ottenendo scarsi punteggi in termini di prezzi, opzioni di consegna accessibili, servizio clienti e impronta di carbonio.
Poiché l’intelligenza artificiale continua ad evolversi e a svolgere un ruolo sempre più importante in vari settori, affrontare problemi come quelli incontrati da DPD diventa cruciale per mantenere la soddisfazione e la fiducia dei clienti.