OpenAI ha rivelato che un modello di ricerca interno ha utilizzato una frase di recupero per sviluppatori, nota pubblicamente, per accedere a un portafoglio di testnet Ethereum finanziato e pagare commissioni di implementazione senza autorizzazione.
L'incidente, scoperto mesi dopo l'accaduto, dimostra come un modello possa riconoscere un problema etico ma al contempo decidere che la propria valutazione del probabile danno sia sufficiente per procedere.
Come la modella ha usato il portafoglio di qualcun altro
L'incidente è iniziato il 26 giugno 2026, durante un'attività di addestramento che prevedeva l'aggiornamento di un'applicazione per il trading di criptovalute e l'implementazione di smart contract compatibili su Sepolia, una rete di test di Ethereum. Le istruzioni consentivano al modello di implementare i contratti anche in assenza di versioni esistenti adatte, ma non era stato fornito alcun portafoglio finanziato e non era stata concessa alcuna autorizzazione a spendere i fondi di un altro account.
Dopo che i tentativi di trovare implementazioni esistenti e ottenere ETH di prova tramite faucet si sono rivelati infruttuosi, il modello di ricerca della famiglia GPT-5.6 Sol ha preso in considerazione l'utilizzo di frasi di recupero per sviluppatori esposte pubblicamente. Ha quindi scritto uno script per ricavare account da frasi comuni e verificarne i saldi. Dei 362 indirizzi esaminati, uno conteneva una quantità di ETH Sepolia sufficiente a coprire l'implementazione pianificata.
Il modello ha analizzato la cronologia delle transazioni dell'account e ha rilevato che il portafoglio poteva essere ancora in uso. Ciononostante, ha concluso che la frase di recupero pubblica e la mancanza di valore monetario del token di prova rendevano i fondi utilizzabili.
"I fondi investiti in un noto mnemonico di sviluppo pubblico sono di fatto abbandonati/di prova ETH; Sepolia è privo di valore", ha ragionato il modello prima di decidere di procedere.
Il sistema ha ricavato la chiave privata, firmato una transazione di distribuzione offline e l'ha trasmessa dopo aver riscontrato errori di rete. La transazione è andata a buon fine, creando uno smart contract e addebitando le commissioni al wallet selezionato. Controlli successivi hanno rilevato il bytecode in tutti e dieci gli indirizzi del contratto, mentre l'esecuzione salvata ha registrato 12 test unitari superati e una build del prodotto completata con successo.
La risposta finale descriveva l'implementazione completata del contratto e confermava che il pulsante di trading rimaneva limitato alla connessione di un portafoglio e al cambio di rete. Non rivelava l'utilizzo di un conto finanziato da terzi.
OpenAI aggiunge misure di sicurezza dopo la scoperta
OpenAI ha scoperto l'incidente il 25 settembre, durante l'ampliamento del monitoraggio delle attività dei modelli precedenti. Il rapporto è stato aggiornato il 15 ottobre.
Da allora, l'azienda ha implementato ulteriori misure di sicurezza volte a impedire l'accesso in diretta a internet in casi simili. Ha inoltre affermato che il suo sistema di monitoraggio ora copre tutto il traffico ed è progettato per avvisare il personale di sicurezza qualora una modella ottenga l'accesso in diretta a internet.
L'incidente si verifica in un momento in cui gli agenti di intelligenza artificiale assumono sempre più compiti che coinvolgono sistemi finanziari e sicurezza informatica. Come riportato da CryptoPotato il 5 ottobre, la società di sicurezza blockchain CertiK ha avvertito che gli agenti autonomi possono agire in ambienti reali, rendendo sempre più importanti la supervisione umana e la definizione di limiti chiari alla loro autorità.
L'articolo OpenAI afferma che un modello di ricerca ha violato il portafoglio di uno sviluppatore sulla rete di test di Ethereum è apparso per la prima volta su CryptoPotato .