Meta ha annunciato il lancio di Purple Llama, un progetto ombrello progettato per promuovere lo sviluppo responsabile nel settore dei modelli di intelligenza artificiale generativa aperta.
Purple Llama mira ad affrontare le preoccupazioni relative alla sicurezza informatica e alle salvaguardie dell’IA.
Meta intende che Purple Llama aumenti le misure di sicurezza informatica
In una recente dichiarazione, Meta spiega che il colore viola, preso in prestito dal mondo della sicurezza informatica, simboleggia un approccio olistico alla mitigazione delle sfide nello spazio dell’intelligenza artificiale generativa.
Inoltre, denominata “Purple teaming”, l’iniziativa combina strategie sia offensive (squadra rossa) che difensive (squadra blu) per la valutazione collaborativa del rischio.
Tuttavia, la dichiarazione rileva che inizialmente Purple Llama fornirà strumenti e valutazioni incentrati sulla sicurezza informatica, compresi parametri per quantificare il rischio di sicurezza informatica. Inoltre, strumenti per valutare suggerimenti di codice non sicuri.
Inoltre, meccanismi per rendere più difficile per gli LLM generare codice dannoso o aiutare negli attacchi informatici.
Meta afferma che questi parametri di riferimento, in linea con gli standard del settore, cercano di ridurre la frequenza del codice non sicuro generato dall’intelligenza artificiale.
Inoltre, il progetto introduce Llama Guard, un modello fondamentale liberamente disponibile che supporta le salvaguardie di input e output.
Per saperne di più: I 6 lavori più interessanti nel campo dell'intelligenza artificiale (AI) nel 2023
I risultati saranno trasparenti per ulteriori sviluppi
Nel frattempo, Meta afferma che questo modello consente agli sviluppatori di filtrare e controllare input e output in linea con le linee guida sui contenuti.
Tuttavia, i risultati vengono condivisi in modo trasparente per il miglioramento e la personalizzazione . Meta afferma che ciò contribuirà in definitiva a un ecosistema di intelligenza artificiale più sicuro e responsabile.
Meta dichiara che Purple Llama incoraggerà la collaborazione tra gli sviluppatori e standardizzerà gli strumenti di fiducia e sicurezza per l'intelligenza artificiale generativa.
Basandosi sul successo di Llama 2, Meta sta collaborando con giganti del settore come AWS, Google Cloud, IBM, Microsoft e altri per garantire uno sforzo collettivo nella creazione di un ambiente AI sviluppato in modo responsabile, aperto e generativo.
Per saperne di più: ChatGPT vs. Google Bard: un confronto tra chatbot AI
Le migliori piattaforme crittografiche | Dicembre 2023
Il post Meta rilascia il lama viola per rafforzare lo sviluppo responsabile dell'intelligenza artificiale è apparso per la prima volta su BeInCrypto .