OpenAI, la società che ha creato il popolare modello linguistico ChatGPT, deve affrontare sfide in termini di conformità legale e accuratezza dei dati. Questo problema ha spinto NOYB – il Centro europeo per i diritti digitali, un’organizzazione senza scopo di lucro con sede a Vienna, in Austria, a presentare un reclamo contro OpenAI presso l’autorità austriaca per la protezione dei dati (DPA).
In effetti, la raccolta dati di OpenAI ha suscitato preoccupazione tra gli organismi di regolamentazione e i difensori della privacy. Questa mossa di NOYB potrebbe potenzialmente innescare una conversazione più ampia sull’uso etico dei dati nella tecnologia.
I problemi dei dati di OpenAI mettono in luce le sfide etiche dell'intelligenza artificiale
Il cuore della denuncia risiede nelle recenti ammissioni di OpenAI riguardo ai limiti di ChatGPT nella gestione dei dati. Secondo OpenAI, il modello di intelligenza artificiale non è in grado di verificare l’accuratezza delle informazioni che genera sugli individui. Inoltre, non può rivelare le origini dei suoi dati immessi.
Nel mezzo del crescente clamore sull'intelligenza artificiale innescato dal lancio di ChatGPT nel novembre 2022, l'ampia adozione dello strumento ha messo in luce vulnerabilità critiche. ChatGPT funziona prevedendo le probabili risposte ai suggerimenti dell'utente senza un meccanismo intrinseco per garantire l'accuratezza fattuale.
Ciò ha portato a casi in cui l’intelligenza artificiale “allucina” i dati, fabbricando risposte che possono essere fuorvianti o completamente false. Sebbene tali inesattezze possano essere irrilevanti in alcuni contesti, comportano rischi significativi quando coinvolgono dati personali.
Per saperne di più: Come costruire il tuo chatbot AI personale utilizzando l'API ChatGPT
Il Regolamento generale sulla protezione dei dati (GDPR) dell'Unione Europea impone l'accuratezza dei dati personali e garantisce agli individui il diritto di accedere e rettificare informazioni errate su se stessi. Le attuali capacità di OpenAI non soddisfano questi requisiti legali, innescando un dibattito sulle implicazioni etiche dell’intelligenza artificiale nella gestione dei dati sensibili .
Maartje de Graaf, avvocato specializzato in protezione dei dati presso noyb, sottolinea la gravità della situazione.
“È chiaro che le aziende attualmente non sono in grado di far sì che chatbot come ChatGPT rispettino la legislazione europea quando trattano dati personali. Se un sistema non può produrre risultati accurati e trasparenti, non può essere utilizzato per generare dati sugli individui. La tecnologia deve seguire i requisiti legali e non viceversa”, spiega de Graaf.
Le questioni vanno oltre gli ostacoli tecnici e si estendono verso sfide normative più ampie. Fin dalla sua nascita, gli strumenti di intelligenza artificiale generativa, incluso ChatGPT, sono stati oggetto di un attento esame da parte degli organismi europei di vigilanza sulla privacy.
L’Autorità per la protezione dei dati italiana, ad esempio, ha imposto restrizioni al trattamento dei dati da parte di ChatGPT all’inizio del 2023, citando inesattezze.
A ciò è seguito uno sforzo coordinato da parte del Comitato europeo per la protezione dei dati per valutare e mitigare i rischi associati a tali piattaforme di intelligenza artificiale.
La tempistica di queste sfide legali è particolarmente degna di nota. Allo stesso tempo, OpenAI stava discutendo per formare un’alleanza strategica con Worldcoin , un progetto co-fondato da Sam Altman, che è anche a capo di OpenAI.
Ulteriori informazioni: 11 migliori estensioni Chrome ChatGPT da verificare nel 2024
Tuttavia, la potenziale collaborazione di OpenAI con Worldcoin potrebbe introdurre ulteriori livelli di dilemmi legali ed etici. L'approccio di Worldcoin all'uso dei dati biometrici si interseca con le sfide di OpenAI nel garantire la privacy e l'accuratezza dei dati .
Inoltre, Worldcoin ha dovuto affrontare il controllo da parte delle autorità legali di tutto il mondo, tra cui Kenya, Spagna e Argentina, in merito alla sua raccolta di dati. Pertanto, questa sinergia potrebbe aprire la strada a usi tecnologici innovativi o creare un precedente per maggiori interventi normativi.
Il post OpenAI affronta una potenziale violazione della legge nel corso della discussione sulla partnership con Worldcoin è apparso per la prima volta su BeInCrypto .