OpenAI sta aggiungendo una filigrana invisibile ChatGPT al testo dei chatbot e alla codifica Codex in tutta l'Unione Europea. Tuttavia, i suoi test dimostrano che la sostituzione di un quarto delle parole con sinonimi riduce il tasso di rilevamento a solo il 17%.
Questa iniziativa risponde all'EU AI Act, il regolamento UE sull'intelligenza artificiale, che richiede etichette leggibili dalle macchine per i testi generati dall'IA. Tuttavia, OpenAI ammette che la tecnologia è ancora immatura, quindi il suo strumento di rilevamento rimane per ora inaccessibile al pubblico.
Quanto è resistente la filigrana ChatGPT una volta modificata?
Secondo quanto annunciato, il sistema, chiamato textGrain, influenza le scelte lessicali del modello in modo da rivelare uno schema statistico nascosto. Un rilevatore separato analizza i passaggi alla ricerca di tale schema.
Come spiega OpenAI nelle sue FAQ, la filigrana è integrata nel testo stesso. Non aggiunge caratteri nascosti, spazi invisibili o punteggiatura anomala. Ciò significa che il comune trucco di eliminare i caratteri nascosti non ha nulla da rimuovere.
La lunghezza è molto importante. OpenAI misura il testo in token, ovvero i frammenti di parole che i modelli di intelligenza artificiale elaborano. Un token equivale a circa tre quarti di una parola inglese.
Nei test di OpenAI , il rilevatore ha individuato circa il 66% delle risposte non modificate di circa 150 parole. Con circa 300 parole, la percentuale è salita a circa il 92%.
Anche una leggera modifica indebolisce la filigrana ChatGPT . In testi di 300 parole, la sostituzione di una parola su 10 con un sinonimo ha ridotto il rilevamento dal 92% al 66%. La sostituzione di una parola su quattro l'ha fatta scendere a solo il 17%.
La soglia di riferimento ha modificato di poco i punteggi di benchmark per GPT-6 Astra di OpenAI, l'ultimo modello di punta dell'azienda.
Perché OpenAI non permette al pubblico di utilizzare il rilevatore?
Anziché essere uno strumento pubblico, OpenAI accetta candidature da ricercatori e organizzazioni di esperti accreditati. L'azienda afferma che un risultato positivo non rivela alcun utente, richiesta o conversazione.
Anche un risultato negativo non è di grande conforto. Testi brevi, modificati o tradotti possono sfuggire al rilevamento, così come gli output di strumenti di intelligenza artificiale concorrenti.
L'assenza di una filigrana rilevata non prova l'attribuzione a un autore umano.
Fonte: OpenAI
Immagini e audio funzionano in modo diverso. Chiunque può caricare questi file sullo strumento di verifica pubblico di OpenAI e controllare la presenza del watermark SynthID.
Al di fuori dell'Europa, la filigrana ChatGPT è disattivata per impostazione predefinita. Tuttavia, i clienti API di tutto il mondo possono ora attivarla per determinati modelli tramite le impostazioni del proprio progetto o organizzazione.
Il lancio segue l'entrata in vigore, ad agosto, dell'applicazione della legge sulla trasparenza sull'IA da parte dell'UE. Per il settore delle criptovalute, la posta in gioco appare concreta, dato che, secondo TRM Labs, l'adozione dell'IA a fini criminali è aumentata del 40% su base annua.
Pertanto, il divario tra ciò che le autorità di regolamentazione richiedono e ciò che i sistemi di rilevamento possono dimostrare influenzerà probabilmente il modo in cui ogni importante laboratorio di intelligenza artificiale gestirà la conformità normativa.
L'articolo " ChatGPT Watermark arriva nell'UE e OpenAI ha già pronto un rilevatore" è apparso per la prima volta su BeInCrypto.