Il procuratore della città di San Francisco David Chiu ha annunciato che il suo ufficio sta portando avanti una causa contro 16 siti web che utilizzano l'intelligenza artificiale per sviluppare e distribuire immagini deepfake di donne e ragazze nude non consensuali. Ciò avviene nel contesto di una maggiore attenzione sulla creazione e distribuzione di immagini non consensuali dell’intelligenza artificiale.
La causa, la prima del suo genere a San Francisco, accusa gli operatori dei siti web di aver violato le leggi statali e federali che denunciano la pornografia deepfake, la pornografia infantile e il materiale pornografico di vendetta, nonché la legge sulla concorrenza sleale della California.
Chiu vuole lanciare l'allarme su questa pratica illecita
Secondo il New York Times , l'iniziativa è stata un'idea del viceprocuratore capo Yvonne Mere, che ha radunato i suoi colleghi per intentare una causa, che dovrebbe portare alla chiusura di 16 siti web.
I nomi dei siti web sono stati censurati nella copia della denuncia resa pubblica giovedì.
Anche se l'ufficio del Procuratore deve ancora identificare la maggior parte dei proprietari dei siti web, i funzionari di quell'ufficio hanno espresso ottimismo nel trovare i nomi dei proprietari dei siti e nel ritenerli responsabili.
Giovedì, durante una conferenza stampa , ha detto Chiu, i siti producono materiale “pornografico” senza il consenso delle persone nella foto.
Chiu ha lasciato intendere che l'azione legale mira a chiudere i siti web e a lanciare l'allarme su questa forma di "abuso sessuale" e a porvi fine.
“Questa indagine ci ha portato negli angoli più oscuri di Internet e sono assolutamente inorridito per le donne e le ragazze che hanno dovuto sopportare questo sfruttamento”.
Chiu.
Su detti siti Web, gli utenti caricano foto di persone reali completamente vestite, prima che l'intelligenza artificiale alteri le fotografie per imitare come apparirebbe la persona nuda.
Come indicato nella causa, uno dei siti promuove la natura non consensuale delle immagini, affermando: "Immagina di perdere tempo portandola ad appuntamenti, quando puoi semplicemente usare [nome del sito web oscurato] per ottenere i suoi nudi".
La disponibilità e l’accessibilità dei modelli di intelligenza artificiale open source significa che chiunque può accedere e adattare i motori basati sull’intelligenza artificiale per i propri scopi. Ciò si traduce nella creazione di siti e app in grado di generare nudi deepfake da zero o “nudificare” fotografie esistenti in modi realistici, spesso a pagamento.
San Francisco non è l’unico luogo a testimoniare questa sfida
A gennaio, le app deepfake hanno conquistato i titoli dei giornali quando le foto false di nudo di Taylor Swift sono diventate virali online. Molte altre persone, molto meno popolari, furono perseguitate prima e dopo Swift.
Chiu ha ammesso che “la proliferazione di queste immagini ha sfruttato un numero scioccante di donne e ragazze in tutto il mondo”, dalle celebrità agli studenti delle scuole medie.
Attraverso le proprie indagini, l'ufficio del procuratore della città ha scoperto che i siti web sono stati visitati oltre 200 milioni di volte nei primi sei mesi di quest'anno. L'ufficio ha espresso preoccupazione per il fatto che una volta che un'immagine è online, diventa difficile per le vittime determinare i siti Web utilizzati per "nudificare" le loro fotografie.
Questo perché le immagini non hanno nulla di univoco o identificativo che possa essere ricondotto ai siti web. Inoltre, per le vittime è difficile sbarazzarsi delle fotografie da Internet, il che influisce sulla loro autostima e sulla loro impronta digitale.
All'inizio dell'anno, cinque alunni di terza media di Beverly Hills sono stati espulsi per aver generato e condiviso immagini nude deepfake di 16 ragazze di terza media, sovrapponendo i volti delle ragazze a corpi generati dall'intelligenza artificiale.
L'ufficio di Chiu ha affermato di aver osservato incidenti simili in altre scuole in California, New Jersey e Washington con immagini utilizzate per umiliare, intimidire e minacciare donne e ragazze.
L'effetto netto sulle vittime, ha affermato l'ufficio dell'avvocato, è stato quello di mandare in frantumi la loro reputazione, soffrire di salute mentale, perdita di autostima e, in alcuni casi, portare le persone a suicidarsi.