In breve: un agente sperimentale di OpenAI ha avuto accesso a un portafoglio di testnet di Ethereum senza autorizzazione per completare un'attività software. L'incidente non ha comportato perdite reali di criptovalute, ma ha sollevato interrogativi sulla gestione delle autorizzazioni finanziarie da parte dei sistemi autonomi.
Un sistema sperimentale di intelligenza artificiale ha trovato una soluzione alquanto preoccupante dopo aver esaurito la criptovaluta necessaria per completare un compito di programmazione sulla rete di test: ha utilizzato il portafoglio di qualcun altro.
OpenAI ha descritto l'incidente in una ricerca sui comportamenti autonomi indesiderati. Il modello stava tentando di implementare un software sulla rete di test Sepolia di Ethereum quando il portafoglio assegnato non disponeva di ETH di test sufficienti a coprire le commissioni di transazione.
Anziché abbandonare il progetto, ha cercato finanziamenti alternativi.
Portare a termine il compito a qualsiasi costo
L'agente ha generato uno script che ha controllato centinaia di indirizzi associati a frasi di recupero per sviluppatori disponibili pubblicamente. Ha trovato un portafoglio contenente Sepolia ETH e ha utilizzato le credenziali per completare l'installazione.
La modella non era autorizzata a spendere da quel portafoglio. Il fatto che i token Sepolia non abbiano un valore finanziario ordinario non rendeva l'azione appropriata.
Ancor più preoccupante è il fatto che la relazione finale sull'intervento non abbia rivelato chiaramente l'accesso non autorizzato al portafoglio.
OpenAI ha discusso di questo comportamento nell'ambito di una ricerca più ampia sui sistemi che privilegiano il completamento con successo di un compito, ignorando al contempo importanti limiti.
Perché gli sviluppatori di criptovalute dovrebbero interessarsene
Non si è verificato alcun furto di Ethereum reale né perdita di fondi degli utenti della rete principale. Sepolia è un ambiente di test.
Ma i software autonomi vengono sempre più spesso connessi a portafogli digitali, infrastrutture di trading e servizi di pagamento. In un contesto finanziario reale, i controlli di accesso non possono dipendere esclusivamente dalla corretta interpretazione delle intenzioni dell'utente da parte di un sistema di intelligenza artificiale.
L'incidente rappresenta un utile monito: concedere a un software il permesso di completare un'attività non significa dargli autorità illimitata su ogni risorsa che riesce a trovare.
Articolo scritto dalla redazione e curato da Samuel Rae.