In un contesto che si sta indubbiamente trasformando in una corsa all'intelligenza artificiale in rapida accelerazione, Anthropic ha presentato "Glasswing", un progetto basato sul nuovo modello Claude Mythos Preview, che denota al contempo ambizione e moderazione.
L'iniziativa si configura come un passo avanti nella comprensione dei sistemi di intelligenza artificiale avanzati ed è ben lungi dall'essere un progetto di ricerca isolato: è legata a un modello completamente nuovo che l'azienda sta intenzionalmente tenendo segreto.
Un modello che non puoi usare – ed è proprio questo il punto.
In un mondo in cui assistiamo a un flusso costante di strumenti basati sull'intelligenza artificiale sempre più accessibili, il modello Claude Mythos Preview di Anthropic, nella sua ultima versione, non viene rilasciato al grande pubblico.
Nell'ambito del progetto Glasswing , l'iniziativa sarà disponibile per selezionati colossi tecnologici come Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, la Linux Foundation, Microsoft, NVIDIA e Palo Alto Networks, in quello che Anthropic descrive come "uno sforzo per proteggere i software più critici al mondo".
La decisione di evitare un lancio su scala globale sottolinea una crescente tensione nel settore del software: trovare un equilibrio tra innovazione e sicurezza.
Anthropic sembra aver adottato un approccio molto cauto, privilegiando un'analisi approfondita rispetto a una rapida implementazione. Le ragioni di questa scelta sono state illustrate dal team stesso:
Mythos Preview ha già individuato migliaia di vulnerabilità di elevata gravità, alcune delle quali presenti in tutti i principali sistemi operativi e browser web.
Il modello stesso viene descritto come estremamente avanzato e progettato non solo per le prestazioni, ma anche per la sua interpretabilità. In termini più semplici, è stato creato per essere studiato tanto quanto per essere utilizzato. Infatti, Anthropic si impegna a fornire fino a 100 milioni di dollari in crediti di utilizzo di Mythos Preview ai partner del progetto e promette di rendere noti i risultati delle loro ricerche.
All'interno della scatola nera
Al centro del progetto Glasswing c'è l'obiettivo di identificare vulnerabilità e exploit utilizzando Claude Mythos Preview.
Anthropic ha rivelato che molte delle migliaia di bug già individuati dal modello erano critici e presenti praticamente in tutti i principali sistemi operativi e browser web, oltre che in una moltitudine di altri software importanti. Si trattava di vulnerabilità zero-day, ovvero falle precedentemente sconosciute agli sviluppatori di software.
Ad esempio:
Mythos Preview ha scoperto una vulnerabilità vecchia di 27 anni in OpenBSD, un sistema operativo noto per essere uno dei più sicuri al mondo e utilizzato per gestire firewall e altre infrastrutture critiche. La vulnerabilità consentiva a un utente malintenzionato di mandare in crash da remoto qualsiasi macchina che eseguisse tale sistema operativo, semplicemente connettendosi ad essa.
In questo senso, Glasswing rappresenta un importante cambiamento nell'approccio attuale allo sviluppo dell'IA. Invece di correre a rilasciare i sistemi più performanti, Anthropic sta investendo prima nella loro comprensione.
L'articolo Inside Claude Mythos Preview: Anthropic's Secretive New Model and Its Transparency Play è apparso per la prima volta su CryptoPotato .