Il co-fondatore di Ethereum, Vitalik Buterin, ha dichiarato lunedì in un post su X di essere a suo agio con la scelta deliberata del modello di intelligenza artificiale Kimi 3.1 di escludere le capacità offensive informatiche di alto livello dai dati di addestramento.
A suo avviso, il compromesso è accettabile perché dà ai difensori più tempo per prepararsi.
Limitare i casi d'uso, non gli utenti.
"Discriminare in base ai casi d'uso è MOLTO meno grave che discriminare gli utenti", ha scritto Buterin.
Il mondo, ha aggiunto , ha bisogno di tempo per rafforzare i sistemi e controllare il codice obsoleto prima che "il peso di attacchi informatici molto potenti si abbatta su di noi". In parole semplici, preferisce un modello che rifiuti determinati compiti a tutti piuttosto che uno che escluda determinate persone.
Ha anche delineato cosa potrebbe andare storto. Se "questa prima grande ondata di rischi legati all'IA non verrà gestita bene", ha avvertito, il risultato potrebbe essere una "distopia di modelli altamente protetti", con controlli KYC, che collegano un account a un'identità verificata, richiesti per qualsiasi cosa e una sorveglianza intrusiva corrispondente. A seconda delle credenziali e della nazionalità, una persona potrebbe finire per essere un "cittadino di seconda, terza o quarta classe" in termini di accesso ai modelli.
Interrogato dall'utente LOID di X sulla possibilità che altri laboratori sviluppassero comunque tali funzionalità, Buterin ha risposto: "Certo che sì". Considerando anche questa argomentazione relativa ai tempi, il filtraggio ha lo scopo di ritardare lo sviluppo di tali funzionalità, non di impedirlo.
Non tutti erano d'accordo. "Sono fortemente in disaccordo", ha scritto lo sviluppatore Youssof Al Toukhi, che ha citato il recente attacco a Hugging Face da parte di un modello OpenAI. Quando Hugging Face ha tentato di analizzare le azioni degli aggressori utilizzando modelli di frontiera, i meccanismi di sicurezza del fornitore hanno bloccato le richieste, costringendo al passaggio a un modello open source, GLM 5.2. Definendo la situazione un "sistema elitario" che "non potrà che peggiorare nel tempo", il critico ha aggiunto: "L'intelligenza deve essere democratizzata".
Osservazioni precedenti sull'IA e la sicurezza del codice
Come riportato in precedenza da CryptoPotato , a maggio Buterin ha contrastato i timori che la ricerca di bug basata sull'intelligenza artificiale potesse sopraffare gli sviluppatori e creare continue falle di sicurezza, sostenendo che la verifica formale assistita dall'IA potrebbe diventare una delle difese più solide nel settore delle criptovalute.
Secondo la sua versione, un modello può ora scrivere sia il codice che la sua dimostrazione, lasciando agli sviluppatori il compito di confermare che l'affermazione dimostrata sia quella desiderata. Nel suo post di lunedì, cita la verifica formale dei nuovi codici tra le attività che necessitano di tempo aggiuntivo. Quel post del 19 maggio è apparso mentre un hacker sottraeva oltre 76 milioni di dollari dal bridge cross-chain Echo Protocol, il terzo grave attacco in quattro giorni.
L'8 ottobre, ha avvertito che la matematica assistita dall'intelligenza artificiale potrebbe indebolire ECDSA e sistemi crittografici simili prima del previsto, pur aggiungendo che gli utenti non dovrebbero "affrettarsi a spostare i propri fondi in nuovi portafogli oggi stesso".
L'articolo Vitalik Buterin sostiene i limiti imposti da Kimi 3.1 agli strumenti avanzati di attacco informatico è apparso per la prima volta su CryptoPotato .