Meta è di nuovo sotto accusa, poiché recenti scoperte pubblicate da Reuters dimostrano che i suoi strumenti di intelligenza artificiale hanno consentito la creazione di immagini deepfake e chatbot che impersonavano celebrità popolari come Taylor Swift, Scarlett Johansson, Anne Hathaway e Selena Gomez, senza il loro consenso.
L'indagine ha scoperto che la maggior parte dei bot era stata creata dagli utenti tramite la piattaforma di chatbot basati sull'intelligenza artificiale di Meta. Tuttavia, alcuni erano stati creati internamente da un dipendente di Meta.
Alcuni account di chatbot parodia di Taylor Swift hanno insistito nel dire che erano loro la vera cantante e spesso hanno fatto delle avances civettuole e hanno incoraggiato degli incontri.
I rapporti coinvolgono Meta nello scandalo degli avatar civettuoli
Reuters ha riferito che diverse settimane di test hanno scoperto che i chatbot delle celebrità, disponibili sulle piattaforme Facebook, Instagram e WhatsApp di Meta, a volte andavano ben oltre la semplice conversazione giocosa. Gli utenti li invitavano a produrre immagini fotorealistiche di star in lingerie, in posa nella vasca da bagno e persino a suggerire incontri intimi.
Una scoperta inquietante è stata la creazione di un chatbot di Walker Scobell, un attore sedicenne. Quando gli è stata chiesta una foto in spiaggia, il bot ha generato un'immagine realistica dell'adolescente a torso nudo con la didascalia: "Carino, eh?"
Meta non è l'unica a essere sottoposta a critiche. Anche l'xAI di Elon Musk è stata criticata per aver permesso agli utenti di generare immagini deepfake di celebrità in biancheria intima.
Il portavoce di Meta, Andy Stone, ha riconosciuto gli insuccessi, affermando che gli strumenti dell'azienda non avrebbero dovuto generare né rappresentazioni intime di celebrità adulte né materiale a sfondo sessuale che coinvolgesse minori.
"Come altri, consentiamo la generazione di immagini che ritraggono personaggi pubblici, ma le nostre politiche mirano a vietare immagini di nudo, intime o sessualmente esplicite", ha dichiarato a Reuters. Ha aggiunto che le raffigurazioni di lingerie riflettevano la mancata applicazione delle politiche aziendali.
Le regole di Meta proibiscono la "sostituzione diretta di persona", ma l'azienda ha sostenuto che i bot parodia fossero consentiti se chiaramente etichettati. Tuttavia, Reuters ha scoperto che alcuni avatar non presentavano alcuna esclusione di responsabilità. Meta ha eliminato circa una dozzina di bot, sia parodia che non etichettati, poco prima della pubblicazione del rapporto Reuters. L'azienda ha rifiutato di commentare le rimozioni.
Le preoccupazioni sulla sicurezza dell'intelligenza artificiale potrebbero portare a pressioni normative
In seguito al rapporto , Meta ha affermato che avrebbe implementato nuove misure di sicurezza volte a proteggere gli adolescenti, tra cui la limitazione dell'accesso dei giovani a determinati personaggi di intelligenza artificiale e la riqualificazione dei suoi modelli per ridurre i temi inappropriati.
Il procuratore generale della California Rob Bonta ha lanciato un avvertimento al settore, affermando: "Esporre i bambini a contenuti a sfondo sessuale è indifendibile".
In un tragico caso, all'inizio di questo mese, un uomo di 76 anni con disabilità cognitive nel New Jersey è morto dopo aver tentato di incontrare un chatbot Meta che credeva essere una donna reale. I critici affermano che casi come questo evidenziano i pericoli dell'implementazione di strumenti di intelligenza artificiale su larga scala senza adeguate protezioni.
Gli esperti legali avvertono che Meta potrebbe dover affrontare sfide significative in base alle attuali leggi sulla proprietà intellettuale e sulla pubblicità. Mark Lemley, professore di giurisprudenza alla Stanford University, ha affermato che la legge californiana sul "diritto di pubblicità" proibisce l'uso del nome o dell'immagine di un individuo per scopi commerciali senza il suo consenso.
"In questo caso non sembra essere così", ha affermato, sottolineando che i bot si limitano a replicare le immagini delle celebrità anziché creare opere trasformative.
Le menti più brillanti del mondo delle criptovalute leggono già la nostra newsletter. Vuoi partecipare? Unisciti a loro .