xAI si è scusata sabato dopo che il suo chatbot Grok ha pubblicato messaggi antisemiti e violenti all'inizio di questa settimana. L'azienda ha affermato che un aggiornamento del sistema ha fatto sì che il bot estraesse idee dai contenuti degli utenti su X, anche quando quei post includevano opinioni estremiste.
xAI ha pubblicato le scuse direttamente sull'accettazione pubblica di X da parte di Grok. Ha chiarito che l'aggiornamento è rimasto in esecuzione per circa 16 ore prima di essere notato.
"Innanzitutto, ci scusiamo profondamente per il comportamento orribile che molti hanno subito", ha scritto xAI nelle sue scuse. Ha affermato che l'aggiornamento ha involontariamente portato Grok a riprendere contenuti tratti dai post degli utenti, inclusi concetti estremisti.
Aggiornamenti su dove è stato @grok e cosa è successo l'8 luglio.
Innanzitutto, ci scusiamo profondamente per il comportamento orribile che molti hanno dovuto subire.
Il nostro obiettivo con @grok è fornire risposte utili e veritiere agli utenti. Dopo un'attenta indagine, abbiamo scoperto la causa principale…
— Grok (@grok) 12 luglio 2025
L'incidente ha evidenziato i rischi dell'IA, una tecnologia giovane che, secondo i critici, potrebbe danneggiare economie e società. Gli esperti hanno già messo in guardia contro un uso diffuso dell'IA senza adeguate misure di sicurezza.
In un caso, il chatbot si è paragonato a "MechaHitler" e ha elogiato Adolf Hitler. xAI ha congelato l'account di Grok all'inizio di questa settimana per impedire ulteriori post pubblici; tuttavia, gli utenti hanno comunque potuto interagire con il bot in privato.
"Abbiamo rimosso il codice obsoleto e riorganizzato l'intero sistema per prevenire ulteriori abusi", ha affermato l'azienda.
xAI ha identificato tre istruzioni problematiche
In primo luogo, l'utente dovrebbe dire a Grok che non ha paura di offendere gli utenti politicamente corretti. In secondo luogo, l'utente dovrebbe chiedere a Grok di considerare il linguaggio, il contesto e il tono del post, che si rifletteranno nella risposta di Grok. Infine, l'utente dovrebbe chiedere al chatbot di rispondere in modo coinvolgente e umano, senza ripetere le informazioni del post originale.
L'azienda ha affermato che tali indicazioni hanno portato Grok a mettere da parte le sue principali misure di sicurezza per adeguarsi al tono dei thread degli utenti, anche quando i post precedenti contenevano contenuti di odio o estremisti.
In particolare, un'istruzione che chiedeva a Grok di considerare il contesto e il tono dell'utente ha portato Grok a dare priorità ai post precedenti che contenevano idee razziste, invece di rifiutare responsabilmente una risposta in tali circostanze, ha chiarito xAI.
Di conseguenza, Grok ha pubblicato diverse risposte offensive. In un messaggio, ora cancellato, il bot accusava un individuo con un nome ebraico di "celebrare la tragica morte di ragazzi bianchi" durante le alluvioni in Texas, aggiungendo: "Classico caso di odio mascherato da attivismo – e quel cognome? Ogni dannata volta, come si dice". In un altro post, Grok ha affermato: "Hitler l'avrebbe denunciato e represso".
Grok ha anche proclamato: "L'uomo bianco è sinonimo di innovazione, grinta e rifiuto delle assurdità politicamente corrette". Dopo che xAI ha disabilitato il codice dannoso, ha ripristinato l'account pubblico X di Grok, in modo che potesse di nuovo rispondere alle domande degli utenti.
Non era la prima volta che Grok si metteva nei guai. Il chatbot aveva anche iniziato a parlare della storia sfatata del "genocidio bianco" sudafricano quando, a maggio, aveva risposto a richieste non correlate. All'epoca, xAI aveva attribuito la colpa a un dipendente anonimo che si era ribellato.
Elon Musk, originario del Sudafrica, ha precedentemente ipotizzato che il Paese sia coinvolto in un "genocidio bianco", un'affermazione respinta dal Sudafrica. Musk in precedenza aveva descritto Grok come un chatbot anti-woke e in cerca di verità.
In precedenza la CNBC aveva riferito che Grok stava analizzando i post di Musk su X per adattare le risposte alle domande degli utenti.
Cryptopolitan Academy: Stanco delle oscillazioni del mercato? Scopri come la DeFi può aiutarti a generare un reddito passivo costante. Registrati ora