In vista delle imminenti elezioni anticipate del 5 marzo, un falso filmato con tre importanti politici del Nepal ha rivelato come l'intelligenza artificiale venga utilizzata come arma.
Il video, interamente generato al computer, mostrava l'ex sindaco di Kathmandu Balendra Shah, l'ex responsabile del settore elettrico Kulman Ghising e il leader del partito Rastriya Swatantra Rabi Lamichhane mentre camminavano insieme.
Quando il video è diventato virale su internet, molti hanno pensato che stesse nascendo una nuova alleanza politica. Tuttavia, poiché l'intero incontro è stato generato al computer, i tre politici non si sono mai realmente incontrati.
Falsificazioni audio diffuse attraverso i social network
Il video falso rappresenta solo un esempio dei contenuti creati dall'intelligenza artificiale che stanno saturando gli spazi digitali del Nepal con l'avvicinarsi delle elezioni. Le elezioni si svolgono appena sei mesi dopo le violente manifestazioni guidate dai giovani che chiedevano la fine della corruzione. Quelle proteste costrinsero l'allora primo ministro KP Sharma Oli a dimettersi e gettarono il sistema politico del paese nel caos.
A causa di questa crisi di fiducia, le contraffazioni digitali che prendono di mira personaggi noti sono fiorite. Il vicepresidente del partito Rastriya Swatantra, Swarnim Wagle, ha presentato una denuncia al Cyber Bureau della polizia nepalese. È stata realizzata una falsa registrazione audio per far credere che avesse avuto una conversazione con il primo ministro indiano, che non ha mai avuto luogo.
Questi falsi audio rappresentano rischi unici in Nepal, come dimostrato dagli sforzi di fact-checking di Poynter . I messaggi vocali viaggiano rapidamente attraverso gruppi di chat familiari e social media, raggiungendo spesso destinatari che non sono in grado di confermarne la legittimità. L'inaffidabilità degli strumenti utilizzati per identificare l'audio alterato significa che le persone comuni hanno mezzi limitati per distinguere tra falsità e verità.
I tentativi del governo di controllare la situazione hanno spesso peggiorato la situazione. A causa della mancata registrazione presso gli enti regolatori, Facebook, X e YouTube sono stati bloccati dalle autorità durante le manifestazioni di settembre.
Il divieto ha scatenato ulteriore violenza invece di placare le tensioni. Reuters ha documentato almeno 77 morti e migliaia di feriti durante il caos che ne è seguito. Alla fine le autorità hanno revocato le restrizioni, ma l'incidente ha dimostrato perché i blocchi drastici non funzionano. Le informazioni false si sono semplicemente spostate su canali più difficili da monitorare.
La Commissione elettorale nepalese ha cercato di affrontare queste sfide attraverso politiche. La sua "Politica sull'uso dei social media nella gestione elettorale " del 2021 ha definito le linee guida iniziali. Una nuova bozza di codice di condotta per le prossime elezioni vieta specificamente informazioni false e account falsi volti a influenzare gli elettori.
Tuttavia, gli esperti avvertono che queste regole necessitano di aggiornamenti immediati per adattarsi all'era dell'intelligenza artificiale generativa. Restano aperte alcune domande: cosa si intende esattamente per media sintetici? Le campagne pubblicitarie dovrebbero divulgare i contenuti creati con l'ausilio dell'intelligenza artificiale? Chi è ritenuto responsabile quando si diffondono informazioni false?
Gli esperti chiedono una risposta coordinata
In assenza di normative perfette, specialisti e gruppi di monitoraggio stanno spingendo per soluzioni più ampie. Poynter e organizzazioni mediatiche simili raccomandano diverse misure: le organizzazioni giornalistiche e i fact-checker dovrebbero indagare su ogni video virale come se si trattasse di un reato, rintracciandone l'origine e dimostrando come lo hanno verificato.
I partiti politici e i candidati dovrebbero impegnarsi a non utilizzare deepfake e a etichettare chiaramente qualsiasi materiale creato dall'intelligenza artificiale. Le aziende di social media dovrebbero istituire team di risposta rapida che conoscano le lingue e la politica del Nepal. I cittadini comuni dovrebbero adottare un approccio di "triage in dieci secondi", fermandosi, verificando e confermando prima di condividere affermazioni scioccanti.
Il Cyber Bureau della Polizia nepalese si sta già preparando ad attacchi più avanzati dal punto di vista tecnico. SP Ray, un funzionario dell'ufficio, ha dichiarato: "L'intelligenza artificiale sta diventando sempre più diffusa e viene utilizzata in più modi. Presto potremmo assistere a crimini e attacchi informatici che l'intelligenza artificiale renderà più facili".
Ray ha anche osservato che la relativa novità della tecnologia potrebbe offrire un po' di respiro. Ritiene che l'intelligenza artificiale sia ancora agli albori e venga appena adottata dal pubblico, quindi potrebbe volerci un po' più di tempo prima che possa essere utilizzata come strumento di distruzione.
"Siamo ben equipaggiati per combattere questi crimini e queste minacce, e dovremmo esserlo", ha detto Ray. Ha poi rassicurato: "La polizia nepalese può indagare su qualsiasi azione. L'unica cosa che richiederà tempo per essere esaminata sono gli attacchi provenienti da territorio straniero".
Non limitarti a leggere le notizie sulle criptovalute. Comprendile. Iscriviti alla nostra newsletter. È gratuita .