Il CEO di Anthropic, Dario Amodei, ha scoperto una debolezza più rischiosa nel modello R1 di DeepSeek che probabilmente indurrà i consumatori a riconsiderare l'utilizzo del chatbot. Ha affermato che il chatbot può generare informazioni relative alle armi biologiche, che potrebbero essere pericolose nel prossimo futuro.
In un'intervista , Amodei ha affermato che DeepSeek ha generato informazioni insolite sulle armi biologiche durante un test di sicurezza antropica. Quando ha parlato delle prestazioni dell'avvio dell'IA, ha affermato che è "praticamente il peggiore di qualsiasi modello che abbiamo mai testato […] Non ha avuto assolutamente alcun ostacolo contro la generazione di queste informazioni."
Anthropic testa regolarmente diversi modelli di intelligenza artificiale per valutare i possibili rischi per la sicurezza nazionale. Lo fanno controllando se i modelli possono produrre informazioni sulle armi biologiche che non sono prontamente disponibili su Google o nei libri di testo.
Inoltre, CISCO ha violato con successo anche DeepSeek R1 senza alcun errore. Questo è diverso da altri tipi avanzati come o1, che prevengono la maggior parte degli attacchi con le loro caratteristiche protettive.
Tuttavia, Amodei ha affermato che la debolezza non rappresenta una minaccia al momento. Ha anche affermato che, a meno che non vi siano prove evidenti del pericolo, ci sarà una buona ragione per continuare a migliorarlo. Ha esortato gli ingegneri e l’azienda a prestare reale attenzione alla sicurezza dell’IA. DeepSeek sta già affrontando ostilità in alcune nazioni, come l’Italia.
D'altra parte, aziende come AWS e Microsoft hanno annunciato che aggiungeranno R1 ai loro servizi cloud. Alcuni potrebbero considerare questo come parte dell’apprendimento per l’azienda, mentre altri potrebbero prenderlo più sul serio. Non c’è ancora alcuna risposta o reazione negativa alle nuove scoperte.
L’intelligenza artificiale americana prende il comando – Dario Amodei
Secondo il CEO di Anthropic, “Ora ci sono da tre a cinque società negli Stati Uniti e una società in Cina. Se continueranno a realizzare modelli vicino alla frontiera dipende da quanti chip potranno avere accesso e se potranno avere accesso a chip su scala molto più ampia rispetto a quelli a cui hanno potuto accedere ora."
DeepSeek ha giustificato la sua tecnologia a basso costo sui chip Nvidia acquistati prima delle restrizioni statunitensi. Secondo Amodei, “I controlli sulle esportazioni non sono mai stati realmente progettati per impedire a DeepSeek o a qualsiasi altra azienda cinese di ottenere il numero di chip che avevano, pari a un paio di decine di migliaia”.
Ha aggiunto: “Dovremmo ragionevolmente aspettarci che avvenga il contrabbando. I controlli sulle esportazioni possono avere più successo nel prevenire acquisizioni più grandi: non possono avere un milione di chip perché si tratta facilmente di decine di miliardi in attività economica, avvicinandosi ai 100 miliardi”.
DeepSeek ha affermato di aver utilizzato un mix di H100, che sono i chip standard negli Stati Uniti. Ne hanno usati circa 10.000. Ciò significa che non dovrebbero essere troppo colpiti.
Riguardo alla questione se la Cina diventi indipendente sui propri chip, in particolare su quelli Huawei, ha affermato che ci vorranno dai 10 ai 15 anni. Ha aggiunto: "In realtà sarà difficile produrre chip competitivi con, ad esempio, il nuovo Nvidia B100 […] La mia sensazione è che sia improbabile che i chip Huawei diventino paragonabili ai chip statunitensi in tempi brevi."
Amodei ha sollevato preoccupazioni sulle leggi negli Stati Uniti. Ha spiegato che si stanno compiendo sforzi per valutare e potenzialmente limitare i rischi dei sistemi di intelligenza artificiale.
Ciò include le preoccupazioni sui loro pericoli, sull'abuso da parte di individui, ad esempio, in attacchi biologici e sui rischi posti dai sistemi stessi. Nell’ultimo anno ci sono state diverse nuove leggi negli Stati Uniti. Ciò pone la domanda: sopravviverà il mercato di DeepSeek negli Stati Uniti?
Inoltre, Amodei ha elogiato le aziende americane di intelligenza artificiale spiegando che lavorano bene insieme. Ha detto che seguono tutti le stesse regole. OpenAI, Meta, Google e xAI devono tutti conformarsi alle normative statunitensi. Ha detto: "Puoi sapere che ti stai impegnando nelle pratiche di sicurezza necessarie e anche altri si impegneranno in esse".
Al contrario, ha detto: “Non credo che ciò sia possibile tra gli Stati Uniti e la Cina. Siamo in una specie di anarchia internazionale hobbesiana.
Amodei ha sottolineato che “sono a conoscenza degli sforzi del governo americano per inviare una delegazione per parlare con la Cina di argomenti relativi alla sicurezza dell'intelligenza artificiale. Quello che mi risulta, ancora una volta, ovviamente non facevo parte di quelle delegazioni, è che non c'era molto interesse da parte cinese.
I legislatori statunitensi vogliono vietare DeepSeek sui dispositivi governativi
DeepSeek sta per essere colpito da un altro ban per motivi di sicurezza. Questa volta dal governo americano. Similmente alla regola TikTok , un gruppo bipartisan negli Stati Uniti suggerisce una legge per impedire l’utilizzo dell’app cinese di intelligenza artificiale DeepSeek su dispositivi governativi.
I rappresentanti Josh Gottheimer, un democratico del New Jersey, e Darin LaHood, un repubblicano dell'Illinois, hanno presentato un disegno di legge chiamato "No DeepSeek on Government Devices Act".
Questo disegno di legge renderebbe illegale per i lavoratori federali l’utilizzo dell’app cinese AI su dispositivi di proprietà del governo. Hanno sottolineato che il governo cinese potrebbe utilizzare l’app per spionare e diffondere informazioni false.
Gottheimer ha affermato: “Il Partito Comunista Cinese ha chiarito abbondantemente che sfrutterà qualsiasi strumento a sua disposizione per minare la nostra sicurezza nazionale, diffondere disinformazione dannosa e raccogliere dati sugli americani […] Semplicemente non possiamo rischiare che il PCC si infiltri nei dispositivi dei nostri funzionari governativi e metta a repentaglio la nostra sicurezza nazionale”.
Cryptopolitan Academy: come scrivere un curriculum Web3 che ottenga interviste – Cheat Sheet GRATUITO