Jack Clark, co-fondatore di Anthropic, ha fatto una previsione audace: a partire dal 2028, i sistemi di intelligenza artificiale potrebbero essere in grado di autorigenerarsi. "Non sono sicuro che la società sia pronta", ha affermato.
In un articolo pubblicato lunedì su Substack, Clark ha affermato con precisione che c'è il 60% di probabilità che l'intelligenza artificiale diventi capace di auto-migliorarsi in modo ricorsivo entro la fine del 2028. "In altre parole, i sistemi di intelligenza artificiale potrebbero presto essere in grado di auto-costruirsi", ha scritto.
Clark ha esposto le sue argomentazioni, basandosi su "centinaia di fonti di dati pubbliche" e sulla tendenza dei prodotti lanciati dalle aziende all'avanguardia nel campo dell'IA. Ritiene che tutte le infrastrutture necessarie siano già presenti per consentire la ricerca sui sistemi di IA e la creazione dei loro successori.
Oggi i sistemi di intelligenza artificiale necessitano di una minore supervisione umana.
La tesi di Cark si basa su due punti. I sistemi di intelligenza artificiale sono diventati molto più capaci di scrivere e testare codice reale. Inoltre, ora possono lavorare in modo indipendente per periodi molto più lunghi senza supervisione umana.
Sul fronte della programmazione, Clark ha citato SWE-Bench, una valutazione ampiamente utilizzata che verifica se l'IA è in grado di risolvere problemi reali su GitHub. Il modello migliore ottenne un punteggio di circa il 2% al momento del lancio del benchmark nel 2023. Oggi, tuttavia, Claude Mythos Preview di Anthropic raggiunge il 93,9%.
Claude Mythos Preview è stato lanciato all'inizio di aprile. Al momento non è disponibile al pubblico,
come riportato da Cryptopolitan.
Ha inoltre citato i dati di METR, un'organizzazione che valuta i modelli di intelligenza artificiale all'avanguardia, i quali dimostrano che l'orizzonte temporale in cui i sistemi di IA possono funzionare in modo affidabile senza intervento umano è passato da circa 30 secondi nel 2022 (GPT-3.5) a circa 12 ore nel 2026 (Opus 4.6).
"È una cosa di grande importanza", afferma Jack Clark di Anthropic.
Ciò implica che, entro uno o due anni, i sistemi di intelligenza artificiale diventeranno sufficientemente creativi da creare i propri percorsi di ricerca innovativi, perfezionare e addestrare i loro successori, soprattutto i modelli non di frontiera, senza alcun intervento umano. Con i modelli di frontiera potrebbe essere molto più difficile, poiché sono molto più costosi, secondo Clark.
Se i sistemi di intelligenza artificiale potessero condurre autonomamente attività di ricerca e sviluppo senza l'intervento umano, il ritmo del progresso dell'IA non sarebbe più limitato dal numero di ricercatori umani o dalla durata della giornata lavorativa.
"Non so come farmene una ragione",
ha scritto Clark. "È un'opinione che nutro qualche riserva perché le implicazioni sono talmente vaste che mi sento insignificante di fronte ad esse, e non sono sicuro che la società sia pronta per i cambiamenti che deriverebbero dal raggiungimento di una ricerca e sviluppo automatizzata nel campo dell'intelligenza artificiale."
La previsione di Clark coincide anche con una recente dichiarazione di Ajeya Cotra, analista di METR, secondo cui i sistemi di intelligenza artificiale dovrebbero essere in grado di gestire autonomamente compiti che richiederebbero circa 100 ore di lavoro umano specializzato entro la fine di quest'anno.
Ad agosto, il co-fondatore di Anthropic ha dichiarato: "Chiunque pensi che l'intelligenza artificiale stia rallentando si sbaglia di grosso".
Se stai leggendo questo, sei già un passo avanti. Rimani al passo con i tempi iscrivendoti alla nostra newsletter .