Negli ultimi anni, il movimento Effective Altruism (EA), nato nella Silicon Valley, ha acquisito una notevole influenza nel plasmare l’approccio di Washington alla politica tecnologica, in particolare per quanto riguarda l’intelligenza artificiale (AI). Questo movimento razionalista, sostenuto dai miliardari della tecnologia, è iniziato come un approccio basato sui dati per affrontare la sofferenza umana, ma si è evoluto in una forza influente con un’intensa attenzione ai rischi esistenziali dell’IA. Mentre alcuni politici abbracciano le preoccupazioni di EA, altri rimangono scettici sulla portata di queste minacce.
Preoccupa l'apocalisse dell'IA di EA
Una delle caratteristiche distintive degli aderenti all'EA è la loro apprensione per un'apocalisse dell'IA. Molti sostenitori dell’Altruismo Efficace credono fermamente che l’umanità sia sul punto di creare un’intelligenza artificiale superintelligente che potrebbe potenzialmente superare in astuzia tutti gli sforzi umani per controllarla. Questa intelligenza artificiale, temono, potrebbe agire in modo autonomo o cadere nelle mani sbagliate, portando a conseguenze catastrofiche. Alcuni, tra cui l’eminente pensatore di EA Eliezer Yudkowsky, sostengono che anche un olocausto nucleare sarebbe un risultato preferibile rispetto a un futuro di IA senza controllo.
L'invasione di Washington da parte della EA
Gli altruisti efficaci sono scesi a Washington, DC, in numero significativo, e la loro presenza sta rimodellando il panorama della politica tecnologica della città. Il loro approccio alla politica sull’intelligenza artificiale differisce sostanzialmente da quello dei tradizionali professionisti politici nella capitale della nazione. Mentre Washington si occupa tipicamente di questioni pratiche come la profilazione razziale, la disinformazione e lo sfollamento della forza lavoro, l’Altruismo Efficace porta sul tavolo una prospettiva più astratta ed esistenziale .
I membri di Effective Altruism stanno spingendo attivamente per leggi radicali sull’IA progettate per allineare lo sviluppo dell’IA con i valori e gli obiettivi umani. Queste politiche includono nuove regole di reporting per modelli di IA avanzati, requisiti di licenza per le aziende di IA, restrizioni sui modelli di IA open source e persino una proposta per una “pausa” completa sugli esperimenti di IA “giganteschi”. L’obiettivo generale è prevenire un futuro dell’intelligenza artificiale che potrebbe potenzialmente minacciare l’umanità.
Uno scontro di culture
I sostenitori efficaci dell'altruismo spesso si avvicinano a Washington con un fervore simile a quello dei convertiti religiosi, creando uno scontro culturale con la cultura politica incrementale e orientata al dettaglio della città. Mentre i politici in DC sono abituati ad affrontare questioni pratiche, gli EA enfatizzano le preoccupazioni esistenziali astratte, distinguendole per stile e focus.
I critici hanno sollevato preoccupazioni circa la mancanza di diversità tra gli aderenti all'Altruismo Efficace. Il movimento è composto prevalentemente da individui bianchi, maschi e provenienti da ambienti privilegiati. Questa composizione demografica ha portato allo scetticismo di alcuni legislatori, in particolare quelli provenienti da comunità emarginate, che ritengono che la visione del mondo di EA potrebbe non affrontare adeguatamente le preoccupazioni legate all'intelligenza artificiale di coloro che rappresentano.
Il denaro che scorre nell’Altruismo Efficace
Uno dei fattori chiave che guidano l'influenza di EA a Washington è il sostanziale sostegno finanziario che riceve. Open Philanthropy, uno dei principali finanziatori delle cause EA fondato da Dustin Moskovitz e Cari Tuna, ha incanalato immense risorse in think tank e programmi, collocando i ricercatori di intelligenza artificiale e biosicurezza in posizioni chiave all'interno delle agenzie governative e degli uffici del Congresso.
L’influenza dei miliardari della tecnologia nell’Altruismo Efficace non può essere sopravvalutata. Figure di spicco come Elon Musk e Dustin Moskovitz hanno generosamente finanziato cause e organizzazioni legate a EA, versando centinaia di milioni di dollari in think tank e programmi influenti che hanno collocato il personale in posizioni governative chiave. Questo sostegno finanziario ha dato a EA un vantaggio significativo nel sostenere le sue politiche.
Un'influenza crescente
Nonostante lo scetticismo e le critiche, l'influenza di EA continua a crescere, plasmando il dibattito sulla politica dell'IA a Washington. I professionisti politici finanziati dall’EA sono integrati in tutti i principali nodi politici della città, tra cui la Casa Bianca, le agenzie federali e influenti think tank. La loro presenza sta indirizzando le discussioni verso i rischi esistenziali dell’IA, che sono diventati un punto focale del discorso politico.
Ottimisti dell’IA: emerge una controforza
Mentre l’EA ha guadagnato una notevole popolarità a Washington, una controforza sta cominciando ad emergere. Gli ottimisti dell’IA, spesso definiti “accelerazionisti efficaci”, stanno respingendo le proposte volte a rallentare lo sviluppo e il controllo dell’IA. Questi ottimisti, guidati da figure come Marc Andreessen, sono concentrati principalmente nella Silicon Valley e sono determinati a offrire una narrazione alternativa.
Non tutti a Washington accettano prontamente la narrativa del giorno del giudizio sull’IA. Alcuni legislatori rimangono scettici riguardo alla probabilità e alla gravità dei rischi esistenziali dell’IA. Ritengono che l’attenzione su questi rischi possa distrarre dall’affrontare questioni urgenti come i pregiudizi legati all’intelligenza artificiale, la privacy e la sicurezza informatica.
Mentre le preoccupazioni di EA sui rischi esistenziali dell’IA stanno guadagnando importanza, un crescente coro di politici sta sostenendo un approccio più equilibrato. Sostengono che affrontare le sfide immediate dell’IA, come i pregiudizi e le preoccupazioni sulla privacy, non dovrebbe passare in secondo piano rispetto al timore di un’ipotetica apocalisse dell’IA.
Il crescente impatto di EA sulla politica relativa all'intelligenza artificiale
Il movimento dell’Altruismo Efficace, con la sua attenzione ai rischi esistenziali dell’IA e ai sostenitori influenti, ha avuto un impatto significativo sul panorama politico dell’IA di Washington. La sua presenza e le sue politiche stanno rimodellando il dibattito sulla regolamentazione dell’IA, anche se alcuni politici rimangono cauti riguardo alla gravità delle minacce. Mentre il discorso sulla politica dell’IA continua ad evolversi, trovare un equilibrio tra affrontare le preoccupazioni immediate e contemplare i rischi esistenziali rimane una sfida centrale per i politici nella capitale della nazione.