L’intelligenza artificiale e tutte le tecnologie emergenti vengono valutate in termini di pro e contro. L’intelligenza artificiale è spesso definita un’arma a doppio taglio per i suoi potenziali rischi nel dare impulso all’innovazione.
Recentemente, O2, un colosso delle telecomunicazioni del Regno Unito, ha lanciato "AI Daisy" per combattere i truffatori che impersonano una nonna dolce e loquace. Sviluppata con l'aiuto dello YouTuber Jim Browning, l'intelligenza artificiale sta fornendo una contromisura ai propri rischi?
Chi è AI Daisy?
L’intelligenza artificiale è stata il tema del 2024, ma si discute anche della preoccupazione che possa impossessarsi di posti di lavoro, superare in astuzia i software esistenti e creare privacy e questioni etiche. Tuttavia, una società di telecomunicazioni con sede nel Regno Unito chiamata O2 ha affrontato il dibattito con una nuova campagna.
O2 ha introdotto "AI Daisy" nell'ambito della campagna "Swerve the Scammers" per far perdere tempo ai truffatori. Se i truffatori sono impegnati a parlare con la nonna dell'intelligenza artificiale, dove ci sarà tempo per truffare le persone reali? Il compito di Daisy sembra essere quello di coinvolgere i truffatori in conversazioni lunghe e inutili, tenendoli occupati. Lei sottolinea: "Ammettiamolo, caro, ho tutto il tempo del mondo". L'azienda ha inoltre incoraggiato le persone a segnalare i numeri delle truffe per aiutare Daisy a identificare più truffatori.
Nell'annuncio, Daisy afferma anche: “Ciao, truffatori. Sono il tuo peggior incubo."
L'inferno non ha furia come quella di una nonna AI truffata. Guarda Daisy che fa perdere tempo ai truffatori in modo che non possano truffarti.
Segnala chiamate e SMS fraudolenti al 7726 pic.twitter.com/hkNMDqG87b
– O2 (@O2) 15 novembre 2024
Anche Jim Browning, spesso noto per aver smascherato i truffatori sul suo canale YouTube, è stato coinvolto nell'addestramento dell'AI Daisy. In una conversazione con Sky News , spiega che l'intelligenza artificiale è stata addestrata utilizzando registrazioni reali di chiamate truffa, molte delle quali provengono dai suoi video su YouTube. Browning ha anche rivelato di aver trascorso anni a registrare e imparare dai truffatori per comprendere le loro tecniche. Secondo il vigilante virtuale, Daisy fa sì che i truffatori sprechino tempo e risorse, rendendo potenzialmente le truffe meno redditizie.
L’intelligenza artificiale è un’arma a doppio taglio
La tecnologia emergente viene in soccorso delle persone quando una parte di essa sta rendendo più semplice la truffa. Secondo un rapporto di Truecaller , solo nel 2023 i truffatori hanno colpito 56,2 milioni di adulti negli Stati Uniti. In media, 1 persona su 4 avrebbe perso 452 dollari. Il rapporto rileva inoltre che gli anziani vengono presi di mira frequentemente rispetto ai giovani adulti, ma questi ultimi corrono un rischio maggiore di essere truffati.
L'influencer Amy Hart, che ha lavorato nello spot pubblicitario di AI Daisy, ha dichiarato: "So in prima persona quanto possano essere sofisticati e cattivi truffatori", nel frattempo, Shelly Palmer, CEO dell'agenzia di collocamento Palmer Group, vorrebbe aver pensato all'idea. Nonostante sia entusiasta dell’idea, il dirigente ha avvertito che la clonazione vocale è una tecnologia rischiosa perché i truffatori potrebbero usarla per impersonare persone. Suggerisce alle famiglie di utilizzare una “parola o frase sicura” per verificare l’identità durante le chiamate che fanno richieste insolite.
Sulla base dei rapporti, la clonazione vocale dell’intelligenza artificiale e la tecnologia deepfake sono quasi reali quando si tratta di impersonare persone reali. Il team di sicurezza di Sift ha rivelato in un blog che l'intelligenza artificiale analizza i dati per identificare le potenziali vittime e le loro vulnerabilità. Una volta individuato l'obiettivo, i truffatori manipolano utilizzando stimoli emotivi e storie per saccheggiare fondi. Daisy di O2 è una contromisura all'uso dell'intelligenza artificiale per truffare le persone. Di conseguenza, l'intelligenza artificiale Granny Daisy non si limita a superare in astuzia i truffatori, ma ha anche affrontato 3 principali problemi tecnologici.
Innanzitutto, la clonazione vocale tramite intelligenza artificiale aumenta i rischi per la privacy poiché ora i truffatori possono impersonare persone reali. Daisy riesce a ribaltare la sceneggiatura. In secondo luogo, i critici hanno messo in dubbio le implicazioni etiche dell’intelligenza artificiale nella società. La campagna ha uno scopo positivo e spiega la necessità di un uso responsabile dell’IA. Infine, l’impatto dell’intelligenza artificiale sui lavori umani è al primo posto in ogni conversazione. Nel 2024, AI Daisy sta gestendo un compito che un tempo richiedeva l'intervento umano. Sebbene l’intelligenza artificiale abbia ridotto l’interazione umana nel servizio clienti, diversi analisti la ritengono ancora una sovrastima.
Detto questo, AI Virgin Media O2 afferma di aver "investito molto" per combattere le frodi poiché, secondo quanto riferito, Daisy è riuscita a tenere occupati i chiamanti loschi per 40 minuti contemporaneamente .