Un matematico della NYU, il quale afferma che uno dei modelli di OpenAI ha raggiunto i suoi risultati inediti entro un giorno da quando ha appreso il suo nome, ora si astiene dal condividere le sue idee originali con gli strumenti di intelligenza artificiale dell'azienda. OpenAI sostiene che i suoi suggerimenti non avrebbero potuto influenzare il suo sistema.
Tristan Buckmaster ha lanciato l'allarme pochi giorni dopo la pubblicazione da parte OpenAI di 722 articoli di matematica scritti dall'intelligenza artificiale. Ha affermato che in uno dei suoi account l'addestramento del modello era ancora attivo di default.
Cosa dice Buckmaster che è successo alle sue opere inedite
Buckmaster e Levent Alpöge, matematico presso Anthropic , azienda concorrente OpenAI , hanno trascorso quasi un anno a lavorare su un passo avanti verso la soluzione delle equazioni di Navier-Stokes, un problema di fluidodinamica che mette in palio un premio di 1 milione di dollari.
Buckmaster ha svolto il lavoro tramite Codex, l'assistente di programmazione di OpenAI , utilizzando un account personale a pagamento. Le bozze sono rimaste sui server di OpenAI .
Ha dichiarato alla CNBC che OpenAI non aveva fatto alcun progresso prima che lui rivelasse il suo nome. In seguito, ha affermato, i suoi agenti hanno raggiunto "esattamente il punto in cui eravamo noi" nel giro di un giorno.
A settembre, Buckmaster aveva dichiarato di non accusare nessuno, secondo quanto riportato da BeInCrypto . Ora definisce la tempistica sospetta.
«Prima di conoscere il mio nome, non avevano fatto alcun progresso. Dopo aver saputo il mio nome, improvvisamente hanno ripreso da dove avevamo interrotto… Lo trovo sospetto», ha affermato.
Prima che OpenAI annunciasse la sua dimostrazione delle equazioni di Navier-Stokes l'8 settembre, Buckmaster afferma di aver ricevuto la paternità esclusiva del lavoro se avesse rinunciato al nome di Alpöge. Lui ha rifiutato.
OpenAI respinge qualsiasi collegamento ai suoi dati.
"Possiamo affermare categoricamente che è impossibile che i suggerimenti del Dr. Buckmaster relativi al Codex negli ultimi due mesi abbiano influenzato il sistema in alcun modo, compreso l'addestramento", ha riportato ABC, citando un portavoce OpenAI .
Buckmaster ha affermato che la finestra temporale continuava a cambiare. Un successivo comunicato stampa dell'azienda ha fissato la data al 3 luglio.
Perché Buckmaster ora dice ai ricercatori di non inserire idee nell'IA
Buckmaster possiede ancora il Codex, ma non vi inserisce più idee che desidera mantenere originali.
Ha affermato che i revisori delle domande di finanziamento spesso incollano le proposte di ricerca in strumenti di intelligenza artificiale per scriverne dei riassunti, consegnando così i piani non pubblicati alle aziende di IA.
La versione di OpenAI rilasciata a ottobre si basava su 4.000 problemi irrisolti. Buckmaster ha affermato che ha spazzato via i programmi di ricerca di matematici all'inizio della loro carriera.
Sébastien Bubeck, ricercatore principale OpenAI ha dichiarato al New York Times che le sue offerte erano volte ad aiutare Buckmaster.
Un portavoce ha dichiarato che OpenAI ha compiuto "progressi sostanziali" su un altro dei problemi da 1 milione di dollari.
L'articolo " Puoi fidarti di ChatGPT con le tue idee migliori? Un professore della NYU dice di pensarci due volte" è apparso per la prima volta su BeInCrypto.