Il co-fondatore di Ethereum Vitalik Buterin ha pubblicato una visione ampia per una nuova era di “accelerazione difensiva differenziale decentralizzata e democratica”, avvertendo che l’intelligenza artificiale superintelligente potrebbe rappresentare una minaccia esistenziale a meno che l’umanità non adotti un approccio attentamente bilanciato volto ad accelerare le tecnologie di protezione, promuovere l’apertura e costruire forte responsabilità e garanzie normative.
Il fondatore di Ethereum Wars Of AI Doom
"Non è chiaro se il risultato predefinito sia automaticamente positivo", scrive nel suo ultimo post sul blog, sottolineando che in un mondo in cui la superintelligenza artificiale potrebbe arrivare in soli cinque anni, il margine di errore si riduce drasticamente. “Se non vogliamo che il mondo venga distrutto o cada in una trappola irreversibile, non possiamo solo accelerare il bene, dobbiamo anche rallentare il male, e questo significa approvare norme potenti che potrebbero turbare le persone potenti .”
La proposta di Buterin si concentra sulla ricerca di un equilibrio tra il rapido progresso tecnologico e la preparazione. Esorta le persone a “costruire una tecnologia che ci mantenga al sicuro senza dare per scontato che ‘i bravi ragazzi (o le buone IA) siano al comando’”, avvertendo che una corsa agli armamenti imprudente nella ricerca sull’IA o nella biotecnologia potrebbe facilmente conferire potere ai militari o ad attori malintenzionati.
In un esempio lampante, prevede uno scenario del prossimo futuro in cui “una malattia che secondo le simulazioni avrebbe potuto essere cinque volte peggiore del Covid vent’anni fa si rivela oggi un non-problema”, grazie a difese decentralizzate e guidate dalla comunità. come il monitoraggio dell’aria open source e il codice del vaccino aggiornato istantaneamente. "Le persone che lavorano su queste tecnologie da anni sono sempre più consapevoli del lavoro degli altri", osserva, aggiungendo che "gli stessi tipi di valori che hanno motivato Ethereum e le criptovalute possono essere applicati al resto del mondo".
Il cuore della strategia di difesa del cofondatore di Ethereum si basa sull'espansione e sul perfezionamento di ciò che lui chiama "d/acc", un piano per dare priorità agli strumenti che consentono ai singoli individui piuttosto che ai governi o alle aziende di decidere chi ha accesso a risorse cruciali. “Se vogliamo creare un’alternativa più brillante al dominio, alla decelerazione e alla rovina, abbiamo bisogno di questo tipo di costruzione di un’ampia coalizione”, afferma, sottolineando che l’aspetto decentralizzato del suo quadro eviterebbe “un certo periodo di guerra di tutti contro tutti”. ed evitare un equilibrio in cui governa solo il più forte.
Evidenzia specificamente i pericoli delle autorità centralizzate che gestiscono l’intelligenza artificiale. “Lo abbiamo visto nel caso del Covid , dove la ricerca sul guadagno di funzione finanziata da diversi grandi governi mondiali potrebbe essere stata la fonte della pandemia”, scrive, sottolineando che il controllo centrale pesante è spesso la fonte di un fallimento catastrofico piuttosto che di un fallimento. difesa affidabile.
La strategia di difesa
Dedica gran parte del suo incarico a due idee legali e normative per affrontare i potenziali rischi fuori controllo dell’IA avanzata. Uno è la responsabilità: “Attribuire la responsabilità agli utenti crea una forte pressione affinché facciano l’intelligenza artificiale in quello che considero il modo giusto”, afferma, sostenendo che le persone che utilizzano direttamente i sistemi di intelligenza artificiale dovrebbero sostenere i costi se tali sistemi causano danni.
Riconosce le complicazioni che sorgono quando si ha a che fare con modelli open source o eserciti potenti, ma insiste che la responsabilità è ancora “un approccio molto generale che evita l’eccesso di adattamento”. Sottolinea inoltre che anche ritenere responsabili i distributori e gli sviluppatori ha senso, a patto di non schiacciare l'innovazione aperta con eccessivi oneri legali. “Anche se alcuni utenti sono troppo piccoli per essere ritenuti responsabili, il cliente medio di uno sviluppatore di intelligenza artificiale non lo è”, suggerisce, considerando ciò come una pressione che potrebbe naturalmente spingere la pericolosa ricerca sull’intelligenza artificiale verso percorsi più sicuri e una governance più trasparente.
Il suo secondo approccio normativo è più audace. "Se fossi convinto che abbiamo bisogno di qualcosa di più 'muscoloso' delle norme sulla responsabilità", spiega, "questo è ciò che sceglierei: un pulsante globale di 'pausa morbida' sull'hardware su scala industriale." Immagina uno scenario in cui i chip specializzati all’interno delle macchine informatiche più potenti, utilizzati per addestrare o eseguire modelli di intelligenza artificiale quasi superintelligenti, richiederebbero una serie di firme ogni settimana da più organismi internazionali.
"Sembra che questo riesca a soddisfare i requisiti in termini di massimizzazione dei benefici e minimizzazione dei rischi", afferma, descrivendo come arrestare o limitare la capacità di elaborazione totale del mondo del 90-99% per un anno o due potrebbe dare all'umanità il tempo di rispondere se un'emergenza La minaccia emergente dell’intelligenza artificiale ha iniziato a sfuggire al controllo.
Sottolinea che una pausa del tipo “tutto o niente” sull’hardware sarebbe difficile da indebolire, poiché “non ci sarebbe un modo pratico per autorizzare un dispositivo a continuare a funzionare senza autorizzare tutti gli altri dispositivi”. Ma ammette anche l’immensa difficoltà di persuadere la comunità globale ad adottare una misura del genere, affermando che ci vorrà “un duro lavoro per provare effettivamente a cooperare” piuttosto che confidare che una grande potenza domini tutte le altre.
Buterin collega il suo pensiero sui rischi dell'intelligenza artificiale all'etica più ampia di Ethereum, allo sviluppo open source e alla governance decentralizzata, affermando che "gli stessi tipi di valori che hanno motivato Ethereum e le criptovalute possono essere applicati al mondo più ampio". Osserva che gli strumenti di collaborazione come i mercati di previsione, che stanno già fiorendo su Ethereum e altre piattaforme blockchain, potrebbero fungere da potenti difese contro la disinformazione e il panico se combinati con meccanismi di privacy come ZK-SNARK .
Vede anche “verifica formale, sandboxing, moduli hardware sicuri e altre tecnologie” come pietre angolari per costruire un robusto livello di difesa informatica che potrebbe contrastare un’intelligenza artificiale che tenta di dirottare i sistemi. "Ha hackerato i nostri computer, crea una super-piaga, ci convince a diffidare gli uni degli altri: questi sono i modi in cui potrebbe avvenire un'acquisizione dell'intelligenza artificiale", avverte, offrendo biodifesa, cyber-difesa e "info-difesa" come aspetti critici dell'infrastruttura protettiva che la comunità Ethereum può contribuire a costruire.
Approfondisce inoltre la questione di come questi progetti decentralizzati e incentrati sulla sicurezza potrebbero trovare finanziamenti, riaffermando la sua fiducia in "forti finanziamenti decentralizzati per beni pubblici" per garantire che vaccini open source, biotecnologie e strumenti di crittografia non languiscano per mancanza di profitto. . “I finanziamenti quadratici e meccanismi simili riguardavano proprio il finanziamento dei beni pubblici in un modo che fosse il più credibilmente neutrale e decentralizzato possibile”, spiega, anche se riconosce che i sistemi più vecchi possono rapidamente trasformarsi in gare di popolarità che favoriscono progetti più appariscenti.
Il suo ultimo approccio, il “finanziamento profondo”, cerca di consentire ai modelli di intelligenza artificiale di aggregare le valutazioni umane di quali progetti meritano sostegno finanziario, utilizzando un “grafico della dipendenza” in modo che i donatori possano vedere come ciascuna iniziativa si basa sul lavoro degli altri. "Utilizzando una competizione aperta tra IA, riduciamo i pregiudizi derivanti da ogni singolo processo di formazione e amministrazione dell'IA", osserva, celebrando la capacità delle criptovalute di riunire le comunità attorno a tali esperimenti.
Il suo post sul blog ritorna ripetutamente all’idea che concentrarsi su strategie puramente difensive o puramente centralizzate è una ricetta per il disastro. “La sfida con i tentativi di rallentare il progresso tecnologico, o la decrescita economica, è duplice”, afferma, sottolineando che cercare di fermare completamente la ricerca imporrebbe enormi costi all’umanità e non riuscirebbe a fermare gli attori disonesti.
Mette inoltre in guardia contro le strategie che ripongono troppa fiducia nel “centro”, citando la negazione iniziale della trasmissione aerea del Covid da parte dell’Organizzazione Mondiale della Sanità come esempio di come le grandi organizzazioni possano sbagliare pericolosamente le cose. “Un approccio decentralizzato affronterebbe meglio i rischi derivanti dal centro stesso”, insiste.
Il cofondatore di Ethereum conclude esortando i sostenitori a capire che la tecnologia può essere sia una minaccia che uno strumento di empowerment, a seconda di come viene gestita. “Noi, esseri umani, continuiamo a essere la stella più luminosa”, dichiara, insistendo sul fatto che il coordinamento globale, la collaborazione open source e l’accelerazione orientata alla difesa sono le chiavi per superare un secolo che potrebbe portare un’intelligenza artificiale superintelligente, vaccini rivoluzionari e un nuovo futuro. generazione di tecnologie di sicurezza.
"L'accesso agli strumenti significa che siamo in grado di adattare e migliorare la nostra biologia e i nostri ambienti, e la parte di 'difesa' di d/acc significa che siamo in grado di farlo senza violare la libertà degli altri", il co-fondatore di Ethereum scrive. “Il compito che abbiamo davanti a noi, costruire un 21° secolo ancora più luminoso che preservi la sopravvivenza umana, la libertà e il libero arbitrio mentre ci dirigiamo verso le stelle, è impegnativo. Ma sono fiducioso che saremo all’altezza”.
Al momento della stesura di questo articolo, Ethereum veniva scambiato a 3.639 dollari.
