In un recente studio condotto da ricercatori della Stanford University e della Georgetown University, sono emerse rivelazioni sugli algoritmi di raccomandazione di Facebook. Lo studio evidenzia come questi algoritmi stiano inavvertitamente potenziando le immagini generate dall’intelligenza artificiale pubblicate da spammer e truffatori, portando a una proliferazione di contenuti ingannevoli sulla piattaforma.
Immagini generate dall’intelligenza artificiale: una minaccia crescente
Lo studio evidenzia la tendenza allarmante delle immagini generate dall’intelligenza artificiale, spesso sconcertanti o accattivanti per gli utenti, che vengono utilizzate come parte di campagne di spam o truffe più ampie su Facebook. Un esempio citato nella ricerca è il fenomeno di "Shrimp Jesus", un'immagine creata dall'intelligenza artificiale che ha guadagnato popolarità virale più volte sulla piattaforma. Originariamente destinate ad accumulare follower, queste immagini si sono evolute per indirizzare il traffico verso siti Web pieni di pubblicità o che vendono prodotti scadenti.
L'aspetto preoccupante di queste immagini generate dall'intelligenza artificiale risiede nella loro capacità di raggiungere utenti ignari che non seguono le pagine di origine. Molti utenti interagiscono con queste immagini senza rendersi conto che interagiscono con contenuti inventati. Mentre alcune immagini, come "Shrimp Jesus", possono essere palesemente fantastiche, altre che ritraggono oggetti di uso quotidiano o opere d'arte possono ingannare gli utenti sulla loro natura artificiale, portando a una diffusa disinformazione e sfruttamento.
Risposta e controllo normativo
Le autorità di regolamentazione stanno intervenendo man mano che la minaccia rappresentata dallo spam e dalle truffe generate dall’intelligenza artificiale diventa sempre più evidente. L'Advertising Standards Authority (ASA) del Regno Unito sta attualmente esaminando l'applicazione dell'intelligenza artificiale generativa nella pubblicità, con potenziali implicazioni per le nuove linee guida che verranno introdotte quest'anno. Allo stesso modo, la Federal Trade Commission degli Stati Uniti ha intensificato la propria attenzione sulla questione, riconoscendo l’urgente necessità di affrontare le pratiche ingannevoli sulle piattaforme di social media.
Nel 2021, la Norvegia ha implementato leggi riviste che obbligano gli inserzionisti e gli influencer a rivelare l'uso di immagini manipolate digitalmente. Questo regolamento, volto a rafforzare la trasparenza e la fiducia dei consumatori, potrebbe estendersi anche agli annunci pubblicitari generati dall’intelligenza artificiale .
La proliferazione di spam e truffe generati dall’intelligenza artificiale su Facebook sottolinea la necessità di solide misure normative e di responsabilità della piattaforma per salvaguardare gli utenti da contenuti ingannevoli.
Mentre i ricercatori continuano a scoprire la portata di questo fenomeno, le società di social media devono dare priorità all’integrità dei loro algoritmi di raccomandazione e combattere lo sfruttamento dell’intelligenza artificiale generativa per scopi dannosi. Possiamo mitigare i rischi posti dagli inganni generati dall’intelligenza artificiale solo attraverso sforzi concertati da parte degli organismi di regolamentazione e delle piattaforme tecnologiche e garantire un ambiente online più sicuro per tutti gli utenti.