Le aziende di tutto il mondo si trovano ad affrontare un problema crescente: i dipendenti utilizzano software di intelligenza artificiale per creare ricevute di spesa false, segnando una svolta tecnologica alle frodi sul posto di lavoro.
Il problema è peggiorato da quando importanti aziende tecnologiche, come OpenAI e Google, hanno rilasciato nuovi programmi di intelligenza artificiale in grado di creare immagini realistiche. Le aziende di software per la gestione delle spese aziendali affermano di vedere un numero sempre maggiore di ricevute false consegnate dai dipendenti.
AppZen, che produce software per il monitoraggio delle spese aziendali, ha scoperto che le ricevute false create dall'intelligenza artificiale rappresentavano circa il 14% di tutti i documenti fraudolenti presentati a settembre. L'anno scorso non ce n'erano. Un'altra azienda, Ramp, ha affermato che il suo nuovo software di rilevamento ha individuato fatture false per un valore di oltre 1 milione di dollari in soli 90 giorni.
Un sondaggio condotto tra i gestori patrimoniali negli Stati Uniti e nel Regno Unito ha evidenziato la portata del problema. Circa il 30% degli operatori finanziari intervistati dalla società di gestione delle spese Medius ha dichiarato di aver notato un aumento delle ricevute false dopo il rilascio di GPT-4o da parte di OpenAI lo scorso anno.
"Queste ricevute sono diventate così affidabili che diciamo ai nostri clienti: 'Non fidatevi dei vostri occhi'", ha affermato Chris Juneau, vicepresidente senior e responsabile del marketing di prodotto per SAP Concur. La sua azienda è una delle più grandi piattaforme di monitoraggio delle spese al mondo, con oltre 80 milioni di controlli di conformità al mese tramite l'intelligenza artificiale.
Molte piattaforme hanno notato un notevole aumento delle entrate generate dall'intelligenza artificiale dopo che OpenAI ha lanciato a marzo le migliori funzionalità di creazione di immagini di GPT-4o.
Interrogata sul problema, OpenAI ha dichiarato al Financial Times di intervenire quando gli utenti violano le sue regole. L'azienda ha anche affermato che le sue immagini contengono informazioni nascoste che dimostrano che sono state create da ChatGPT.
L'intelligenza artificiale rende la frode documentale accessibile a tutti
In passato, per creare ricevute false era necessario saper modificare le foto o pagare qualcuno per farlo tramite servizi online. Ora, programmi di intelligenza artificiale gratuiti e facili da usare consentono ai lavoratori di creare ricevute false in pochi secondi, semplicemente digitando semplici istruzioni su chatbot.
Diverse ricevute false mostrate al Financial Times da società di gestione delle spese sembravano autentiche. Contenevano carta spiegazzata, elenchi dettagliati di articoli che corrispondevano ai menu dei ristoranti reali e firme.
"Questa non è una minaccia futura; sta già accadendo. Sebbene attualmente solo una piccola percentuale di ricevute non conformi sia generata dall'intelligenza artificiale, questa tendenza è destinata a crescere", ha affermato Sebastien Marchon, responsabile della piattaforma di gestione delle spese Rydoo.
Le aziende reagiscono con strumenti di rilevamento dell'intelligenza artificiale
Poiché queste ricevute false sembrano così realistiche, le aziende ora utilizzano programmi di intelligenza artificiale per rilevarle, mentre i lavoratori umani fanno fatica a distinguere tra quelle vere e quelle false.
Il software di rilevamento funziona controllando i dati nascosti nei file immagine per verificare se siano stati creati da un programma di intelligenza artificiale. Ma i dipendenti possono facilmente rimuovere queste informazioni scattando una foto o uno screenshot della ricevuta falsa.
Per reagire, il software esamina anche altri dettagli, come nomi e orari ripetuti dei server, nonché informazioni più generali sul viaggio di lavoro del lavoratore.
"La tecnologia riesce a osservare ogni cosa con un livello elevato di attenzione e concentrazione, cosa che gli esseri umani, dopo un certo periodo di tempo, trascurano, sono umani", ha affermato Calvin Lee, che lavora come direttore senior della gestione dei prodotti presso Ramp.
Una ricerca condotta da SAP a luglio ha rilevato che quasi il 70% dei direttori finanziari riteneva che i propri dipendenti utilizzassero l'intelligenza artificiale per tentare di falsificare spese di viaggio o ricevute. Circa il 10% ha dichiarato di essere certo che ciò fosse accaduto nella propria azienda.
Mason Wilder, direttore della ricerca presso l'Association of Certified Fraud Examiners, ha definito le ricevute false generate dall'intelligenza artificiale un "problema significativo per le organizzazioni".
Ha affermato: "Non ci sono barriere d'ingresso per chi vuole fare questo. Non servono competenze o attitudini tecnologiche come quelle che forse sarebbero state necessarie cinque anni fa con Photoshop".
Non limitarti a leggere le notizie sulle criptovalute. Comprendile. Iscriviti alla nostra newsletter. È gratuita .