Vitalik Buterin, co-fondatore Ethereum , afferma che l'intelligenza artificiale è estremamente informata, ma non molto saggia. A suo avviso, i chatbot individuano riferimenti a quasi qualsiasi cosa, ma giudicano solo la superficie di ciò che un testo argomenta.
Le sue osservazioni sono finite nel bel mezzo di un dibattito su X riguardo alla possibilità che i chatbot siano ormai in grado di competere con i migliori lettori umani. Questo divario è rilevante per i trader di criptovalute che alimentano strumenti di intelligenza artificiale con white paper e proposte di governance, basandosi poi sui riassunti ottenuti.
Un corso ad Harvard senza chatbot ha scatenato il dibattito
La discussione è iniziata con un articolo del Wall Street Journal su Humanities 10, un corso impegnativo di Harvard per le matricole. Secondo alcuni estratti condivisi su X, le domande di ammissione sono aumentate del 40% quest'autunno, con 180 studenti in competizione per 90 posti.
Gli studenti devono affrontare un libro impegnativo ogni settimana e il corso vieta l'uso di dispositivi elettronici. Diversi candidati hanno affermato di desiderare un antidoto alle scorciatoie offerte dall'intelligenza artificiale.
In risposta, un utente ha sostenuto che i modelli odierni superano qualsiasi essere umano come interlocutori nei dibattiti sui classici, perché hanno letto tutto. Tuttavia, una scrittrice ha ribattuto, definendo per ora "spazzatura" il feedback dei chatbot sui suoi saggi.
Cosa manca, secondo Vitalik Buterin, al giudizio dell'IA
Buterin si unì quindi al filo del discorso e tracciò una linea di demarcazione tra conoscenza e saggezza.
Secondo lui, la conoscenza dell'IA è più facile da individuare rispetto alla sua saggezza limitata, poiché la saggezza, a differenza dell'intelligenza, per definizione può essere difficile da verificare.
La debolezza aumenta, ha aggiunto, quando un modello legge un testo per la prima volta. Le opere famose, al contrario, arrivano con un'ampia analisi umana nei dati di addestramento.
La sua cautela si inserisce in uno schema preciso. Di recente, Buterin ha avvertito che l'intelligenza artificiale potrebbe indebolire elementi chiave della sicurezza crittografica entro due anni. Ha anche sviluppato una modalità "paranoica" per le chat basate sull'IA.
Non tutti condividono il suo scetticismo. Alcuni investitori sostengono che l'intelligenza artificiale superi già le migliori menti umane in matematica.
Nel frattempo, i team che si occupano di criptovalute continuano ad affidare audit, ricerche e riepiloghi di governance ad agenti di intelligenza artificiale. Una lettura superficiale di questi documenti potrebbe non individuare un difetto sottile in uno smart contract o nel programma di emissione di un token.
L'osservazione di Buterin suggerisce che i fatti sono facili da verificare confrontandoli con una fonte, mentre il giudizio su un testo completamente nuovo non lo è. Il suo recente sostegno a un modello di intelligenza artificiale per limitare gli attacchi informatici dimostra lo stesso istinto di mantenere la verifica umana nel processo.
L'articolo Vitalik Buterin afferma che l'IA è competente ma non molto saggia è apparso per la prima volta su BeInCrypto.