L’AI Safety Institute degli Stati Uniti, sotto il Dipartimento del Commercio, ha annunciato cinque nuovi membri per il suo gruppo dirigente. Tra i cinque nuovi membri ce n’è uno che ha predetto che esiste una probabilità del 50% che lo sviluppo dell’intelligenza artificiale finisca per compromettere l’umanità. Ma questa non è la sua unica presentazione; ci sono alcune innovazioni molto importanti al suo attivo.
Nuovi membri del team di sicurezza dell'IA
Da tempo si discute sul fatto che l’intelligenza artificiale diventerà una minaccia esistenziale per gli esseri umani, ma molti esperti sostengono che sia esagerato e sopravvalutato, e questo tipo di previsione potrebbe ostacolare i progressi nel campo. Il compito del team appena nominato è incoraggiare lo sviluppo in modo tale che l’intelligenza artificiale diventi vantaggiosa per le persone, contro questa percezione di danno secondo il National Institute of Standards and Technology (NIST).
Il direttore del NIST e sottosegretario al Commercio per gli standard e la tecnologia, Laurie E. Locascio, ha affermato:
“Sono molto lieto di dare il benvenuto a questi esperti di talento nel team dirigente dell’AI Safety Institute degli Stati Uniti per contribuire a stabilire la scienza della misurazione che supporterà lo sviluppo di un’intelligenza artificiale sicura e affidabile. Ognuno di loro porta esperienze uniche che aiuteranno l’istituto a costruire una solida base per la sicurezza dell’IA nel futuro”.
Tra i nuovi membri c'è Adam Russell, chief vision officer, che è anche direttore della divisione AI dell'Information Sciences Institute dell'Università della California. Il consulente senior sarà il Prof. Rob Reich, originario di Stanford, che lavora come direttore associato dell'Institute for Human-Centered AI ed è anche un esperto di scienze politiche.
Mara Quintero Campbell viene nominata direttore operativo e capo dello staff. Attualmente lavora presso l'Amministrazione per lo sviluppo economico del Commercio in qualità di vice direttore operativo. Mark Latonero sarà a capo dell’impegno internazionale, proviene dall’Ufficio per le politiche scientifiche e tecnologiche della Casa Bianca e lavora come vicedirettore del National AI Initiative Office.
L'intelligenza artificiale è a bordo, ma c'è di più
Il nuovo membro chiamato AI Doomer non è altro che Paul Christiano. È nominato capo della sicurezza AI della squadra. È un ex ricercatore OpenAI e fondatore dell'Alignment Research Center. È anche l’inventore di una tecnica fondamentale di sicurezza basata sull’intelligenza artificiale nota come apprendimento per rinforzo, che incorpora il feedback umano. Ha ottenuto la sua etichetta di rovinatore dell'intelligenza artificiale dopo che in un podcast gli è stato chiesto della possibilità che le ambizioni dell'intelligenza artificiale umana finissero in rovina, al che ha mostrato una certa preoccupazione per il fatto che l'umanità venga condannata, ha detto.
"Penso che ci sia una probabilità del 10-20% che l'intelligenza artificiale prenda il sopravvento e che la maggior parte degli esseri umani muoia, lo prendo abbastanza sul serio."
Ha anche detto,
"Nel complesso, forse avrai una probabilità di rovina del 50/50 maggiore subito dopo aver ottenuto sistemi di intelligenza artificiale a livello umano."
Fonte: podcast senza banche.
Christiano ha espresso questi pensieri al podcast Bankless con i conduttori David Hoffman e Ryan Sean Adams, ma insiste sul fatto che le sue opinioni non sono così estreme come quelle del famoso doomer dell'intelligenza artificiale Eliezer Yudkowsky, che suggerisce uno scenario completamente negativo.
Il segretario al Commercio americano Gina Raimondo ha anche affermato che per salvaguardare la leadership globale sull'IA responsabile e per garantire la sicurezza dell'IA e mitigare i rischi ad essa associati, abbiamo bisogno dei migliori talenti della nazione, motivo per cui vengono selezionati questi individui, che sono i migliori nei loro campi per unirsi ora al gruppo dirigente esecutivo dell’AI Safety Institute degli Stati Uniti.
Il comunicato stampa del Dipartimento del Commercio degli Stati Uniti può essere trovato qui .