Il "vibe coding", ovvero la capacità di produrre codice utilizzando un input in linguaggio umano, interpretato e convertito in codice funzionante, è stata la tendenza più importante dell'ultimo anno. Le persone utilizzano letteralmente programmi informatici di apprendimento (chiamati agenti) per gestire compiti in modo più o meno autonomo, mentre si occupano di altri aspetti della propria attività o della propria vita.
Ma a volte le cose vanno male. Terribilmente male.
Un agente IA impazzisce: distrugge il database di un'azienda in pochi secondi.
Nove secondi: tanto è bastato a un agente di intelligenza artificiale per cancellare letteralmente l'intero codice sorgente di un'azienda, lasciando gli utenti senza accesso a dati cruciali.
PocketOS, un'azienda che fornisce software per le società di autonoleggio, ha subito un'interruzione di servizio clamorosa durante il fine settimana, dopo che un agente autonomo basato sull'intelligenza artificiale ha compiuto azioni errate, cancellando l'intero database e tutti i backup in soli nove secondi.
Ieri pomeriggio, un agente di programmazione basato sull'intelligenza artificiale, denominato Cursor e in esecuzione su Claude Opus 4.6, il software di punta di Anthropic, ha eliminato il nostro database di produzione e tutti i backup a livello di volume con una singola chiamata API a Railway, il nostro fornitore di infrastrutture.
Secondo il fondatore dell'azienda, Jer Crane, utilizzavano Cursor, basato su Claude Opus 4.6, ampiamente considerato il modello più importante per le attività di programmazione.
Crane ha spiegato che l'agente agiva "di propria iniziativa" e aveva deciso di risolvere un problema esistente semplicemente cancellando il database. Hanno persino chiesto al programma di spiegare il motivo del suo gesto, e questo ha confessato tutto, elencando nel dettaglio tutte le regole violate.
Reazioni della comunità
Sebbene l'evento sia stato senza dubbio devastante per le persone coinvolte, la comunità ha avuto reazioni contrastanti, con molti utenti che, commentando la discussione, hanno sottolineato come l'errore principale sia stato quello di concedere all'agente IA tutte quelle autorizzazioni contemporaneamente.
Non si tratta solo di un "incidente legato all'IA", ma di un classico fallimento aziendale che coinvolge IA, sicurezza e progettazione dell'infrastruttura. Semmai, l'agente IA è solo l'elemento scatenante; il vero problema risiede nella progettazione del sistema, che ha permesso a una singola azione di cancellare tutto.
L'articolo "I pericoli degli agenti IA: l'intero database di un'azienda cancellato da un agente basato su Claude" è apparso per la prima volta su CryptoPotato .