Il governo del Regno Unito ha annunciato l’intenzione di aprire quest’estate il primo ufficio all’estero per il suo AI Safety Institute negli Stati Uniti.
In una dichiarazione pubblicata lunedì , la segretaria britannica per la scienza e la tecnologia Michelle Donelan ha affermato che il nuovo ufficio americano sarà situato a San Francisco. La città ospita alcune delle più grandi aziende di intelligenza artificiale, tra cui OpenAI, Anthropic e Inflection AI.
Il Regno Unito cerca di rafforzare la partnership con gli Stati Uniti sulla sicurezza dell’intelligenza artificiale
L'ufficio con sede negli Stati Uniti cercherà di reclutare un team di personale tecnico guidato da un direttore della ricerca quando inizierà le operazioni entro la fine dell'anno. La sede londinese dell'Istituto conta attualmente un team di oltre 30 persone tecniche.
Il segretario tecnologico ha affermato che l’espansione dell’Istituto rappresenta la leadership britannica nel campo dell’intelligenza artificiale e stabilirà una stretta collaborazione con il governo degli Stati Uniti.
Si tratta di un momento cruciale per la capacità del Regno Unito di studiare sia i rischi che il potenziale dell’intelligenza artificiale da una prospettiva globale, rafforzando la nostra partnership con gli Stati Uniti e aprendo la strada ad altri paesi per sfruttare la nostra esperienza mentre continuiamo a guidare il mondo nell’intelligenza artificiale. sicurezza.
Michelle Donelan, segretaria della scienza e della tecnologia del Regno Unito.
Donelan afferma che l'istituto è cresciuto da "forza a forza"
Il governo del Regno Unito ha introdotto l’AI Safety Institute nel novembre 2023. Affermava che l’obiettivo era “ridurre al minimo le sorprese per il Regno Unito e l’umanità derivanti da progressi rapidi e inaspettati nell’intelligenza artificiale”.
Leggi anche: Il governo del Regno Unito annuncia la creazione dell'AI Safety Institute
L’Istituto si concentra principalmente sulla valutazione dei sistemi di intelligenza artificiale “di frontiera” dal punto di vista della sicurezza nazionale. Con questa misura, il governo del Regno Unito ha affermato che sarà in grado di sviluppare risposte politiche e normative efficaci alle applicazioni di intelligenza artificiale distribuite nella sua giurisdizione.
Da quando io e il Primo Ministro abbiamo fondato l’AI Safety Institute, esso è cresciuto sempre più rafforzandosi in poco più di un anno.
Michelle Donelan, segretaria della scienza e della tecnologia del Regno Unito.
L'Istituto pubblica i risultati dei suoi test modello
Secondo quanto riferito, l’AI Safety Institute del Regno Unito è la prima organizzazione sostenuta dal governo a pubblicare i risultati dei test di sicurezza dei suoi modelli di intelligenza artificiale. L'Istituto ha testato cinque modelli linguistici di grandi dimensioni disponibili al pubblico, sebbene non ne specifichi i nomi.
La sicurezza dell’intelligenza artificiale è ancora un campo molto giovane ed emergente. […] La nostra ambizione è continuare a spingersi oltre i confini di questo campo sviluppando valutazioni all’avanguardia, con particolare attenzione ai rischi legati alla sicurezza nazionale.
Ian Hogarth, presidente dell'AI Safety Institute del Regno Unito.
Ha affermato che diversi modelli hanno completato le sue sfide di sicurezza informatica. Tuttavia, si sono tutti rivelati altamente vulnerabili ai “jailbreak” di base. Alcuni modelli hanno prodotto risultati dannosi anche quando non vi sono stati tentativi deliberati di eludere le misure di salvaguardia.
Reporting criptopolitico di Ibiam Wayas