Vitalik Buterin, co-fondatore Ethereum , ha appoggiato la decisione di Moonshot AI di rimuovere le funzionalità di hacking più avanzate dal suo nuovo modello Kimi K3.1 Pro. A suo avviso, limitare ciò che l'IA può fare è preferibile a limitare chi può utilizzarla.
Tuttavia, questa misura di sicurezza ha un costo misurabile. Moonshot afferma che il modello filtrato ha risolto l'81% dei problemi sul suo benchmark interno di exploit, mentre una versione non filtrata ne ha risolti il 90,5%.
Perché Vitalik Buterin preferisce i limiti imposti dall'IA ai controlli da parte dell'utente.
Buterin ha condiviso la sua posizione, sostenendo che discriminare in base ai casi d'uso è molto meno dannoso che discriminare in base agli utenti.
Moonshot, una startup di intelligenza artificiale con sede a Pechino, prevede di rilasciare i pesi open source del modello entro il 4 novembre. Chiunque potrà quindi scaricarli ed eseguirli sul proprio hardware.
Per questo motivo, l'azienda afferma di aver rimosso i dati relativi alla sicurezza informatica dal proprio corpus di addestramento e dagli ambienti di apprendimento per rinforzo. Sono rimasti invece i compiti di programmazione generici.
Secondo Vitalik Buterin, gli attacchi basati sull'intelligenza artificiale si abbatteranno inesorabilmente su di noi. Fino ad allora, gli sviluppatori hanno bisogno di tempo per rafforzare i sistemi, controllare il codice legacy e verificare il nuovo software.
La minaccia è già visibile. All'inizio di quest'anno, Binance Research ha scoperto che l'intelligenza artificiale sfrutta i contratti intelligenti con una frequenza circa doppia rispetto a quella con cui individua le vulnerabilità.
Iscriviti al nostro canale YouTube per guardare leader e giornalisti che offrono approfondimenti da esperti.
Cosa succede se la prima ondata di rischi legati all'IA va male?
Buterin ha anche messo in guardia contro l'alternativa. Se questa prima ondata dovesse andare male, prevede modelli di business bloccati, controlli "Know Your Customer" (KYC) su ogni cosa e sorveglianza invasiva.
In tale scenario, l'accesso all'IA potrebbe dipendere dalle credenziali e dalla nazionalità. Alcune persone diventerebbero utenti di seconda, terza o quarta classe, ha scritto.
Vitalik Buterin ha da tempo prediletto l'esecuzione di modelli di intelligenza artificiale open source sul proprio hardware, come dimostrato dai test locali condotti con il suo laptop dedicato all'IA.
Tuttavia, non si aspetta che il filtro funzioni per sempre. Quando un utente gli ha chiesto se altri laboratori avrebbero comunque sviluppato funzionalità simili, ha risposto affermativamente.
In realtà, secondo i calcoli di Moonshot, il modello open source rivale di DeepSeek, V4.1-Flash, ha già ottenuto un punteggio dell'85,7% nello stesso benchmark.
Per Vitalik Buterin, la sicurezza dell'IA è quindi diventata una corsa contro il tempo, piuttosto che un blocco permanente. Questa corsa favorisce i difensori che adottano le sue misure di sicurezza crittografiche ridondanti prima che gli aggressori riescano a mettersi al passo.
L'articolo Vitalik Buterin sostiene un modello di IA che ha deliberatamente ridotto le sue capacità di hacking è apparso per la prima volta su BeInCrypto.