I sostenitori dello Stato Islamico, di fronte a significative battute d’arresto militari, stanno sfruttando sempre più l’intelligenza artificiale (AI) per generare sofisticata propaganda online. Gli esperti riferiscono che i sostenitori dell’ISIS sono stati in grado di produrre propaganda elaborata, come notiziari creati dall’intelligenza artificiale in diverse lingue, utilizzando la tecnologia.
Leggi anche: I bot che utilizzano l'intelligenza artificiale inondano i social media di disinformazione
Un esempio calzante è stato lo Stato islamico Khorasan (ISKP), un ramo dell’IS attivo in Afghanistan e Pakistan. Dopo un attacco rivendicato dall'Isis nella provincia di Bamiyan il 17 maggio, che ha ucciso quattro persone, tra cui tre turisti spagnoli, l'ISKP ha pubblicato un video di un conduttore televisivo di AI. Il conduttore, che parlava pashto, assomigliava alla gente del posto e ha narrato l'attacco, mostrando l'uso dell'intelligenza artificiale da parte del gruppo per rendere il contenuto più credibile.
Gli affiliati IS distribuiscono ancoraggi di notizie generati dall'intelligenza artificiale
È stato diffuso un altro video prodotto dall'intelligenza artificiale con un conduttore virtuale che affermava che l'ISIS era dietro un attacco con un'autobomba a Kandahar, in Afghanistan. L’esperto di sicurezza informatica Roland Abi Najem ha sottolineato l’efficienza di questi video deepfake basati sull’intelligenza artificiale, aggiungendo che l’IS utilizza da anni la produzione di qualità di Hollywood.
"L'intelligenza artificiale ora dispone di strumenti facili da utilizzare per creare contenuti falsi, siano essi testo, foto, audio o video. Hai solo bisogno di dati, algoritmi e potenza di calcolo, quindi chiunque può creare contenuti generati dall'intelligenza artificiale dalle proprie case o garage."
Roland Abi Najem
L'uso dell'intelligenza artificiale da parte dell'ISIS a fini di propaganda è stato ufficialmente avviato pochi giorni dopo un terribile atto di terrorismo avvenuto a Mosca il 22 marzo, in cui sono state uccise 145 persone. Gli esperti hanno sottolineato che per denunciare questo attacco è stato utilizzato per la prima volta un giornalista AI e che questo gruppo ha fatto ricorso alla diffusione di notizie false tramite l'intelligenza artificiale.
Espansione dell'influenza estremista tramite contenuti AI
Mona Thakkar, ricercatrice presso il Centro internazionale per lo studio dell'estremismo violento, ha affermato che i sostenitori dell'Isis utilizzano tecniche di generazione dei personaggi.
“Questi sforzi hanno raccolto risposte positive da altri utenti, riflettendo che, attraverso futuri sforzi di collaborazione, molti sostenitori potrebbero produrre video di propaganda sofisticati e di alta qualità per l’IS di lunga durata con una grafica migliore e più tecniche innovative”.
Leggi anche: Qual è la battaglia tra fake news e intelligenza artificiale nelle elezioni del 2024?
Thakkar ha anche notato che i membri che promuovono l'IS su Telegram incoraggiano l'uso di bot generatori di immagini AI poiché producono immagini di alta qualità per il canale perché questi bot sono efficaci e facili da usare. Questa pratica è indicativa del crescente utilizzo dell’intelligenza artificiale come strumento per migliorare l’efficacia e la coesione dell’estremismo.
L’intelligenza artificiale consente operazioni di influenza e reclutamento
Anche se il gruppo ha perso molto terreno in Siria e Iraq, utilizza ancora l’intelligenza artificiale per diffondere il suo messaggio di odio e presentare una facciata di forza. Come affermato da Najem, con l'aiuto dell'intelligenza artificiale, l'IS può creare video deepfake per influenzare celebrità e influencer specifici, principalmente i giovani, a unirsi all'organizzazione.
Leggi anche: L'intelligenza artificiale rivoluziona gli sforzi antiriciclaggio e antiterrorismo
Daniel Siegel, ricercatore del Global Network on Extremism and Technology, ha spiegato che l’intelligenza artificiale ha cambiato la natura delle operazioni di influenza online di gruppi estremisti.
"L'implementazione strategica di deepfake nasheed audio estremisti, con personaggi animati e personalità di Internet, segna un'evoluzione sofisticata nelle tattiche utilizzate dagli estremisti per ampliare la portata dei loro contenuti."
Siegel ha anche affermato che anche altre organizzazioni terroristiche come al-Qaida e Hamas si sono rivolte all'intelligenza artificiale per produrre contenuti per i loro seguaci. Mentre organizzazioni così radicali utilizzano l’intelligenza artificiale per creare contenuti dall’aspetto professionale, tradotti e convincenti, le autorità e i giganti della tecnologia devono trovare modi per contrastare queste minacce.