Nvidia, una multinazionale e società tecnologica, ha annunciato il rilascio di un nuovo servizio che aiuta le aziende e i paesi a costruire supercomputer personalizzati e specializzati utilizzando l'ultimo LLM di Meta, Llama 3.1.
Nvidia ha rilasciato due nuovi servizi rivolti ad aziende e paesi. Il gigante della tecnologia ha rilasciato un servizio all'interno di Nvidia AI Foundry e microservizi di inferenza all'interno di NVIDIA NIM. Entrambi i servizi sfruttano l'ultima libreria LLM open source di Meta, Llama 3.1, e possono creare supercomputer IA generativi.
Nvidia AI Foundry aiuterà le aziende e i paesi a creare modelli super LLM personalizzati per requisiti ed esigenze specifiche del settore. Ciò è possibile attraverso l'uso di Llama 3.1 e del software, dell'hardware e del talento di Nvidia. Le aziende e i paesi avranno la possibilità di addestrare questi supermodelli utilizzando dati proprietari o dati sintetici generati da Llama 3.1 e dal modello di ricompensa Nvidia Nemotron.
Leggi anche: Tesla inizierà a utilizzare robot umanoidi nel 2025, afferma Elon Musk
Llama 3.1, rilasciato oggi, ha 405 miliardi di parametri ed è posizionato per competere con modelli di intelligenza artificiale closed-source come ChatGPT e Gemini. Meta migliora continuamente Llama fornendo componenti aggiuntivi che funzionano con il modello. Meta e Nvidia hanno collaborato per integrare Llama 3.1 all'interno dei servizi Nvidia, rendendo la soluzione disponibile fin dal primo giorno. Il CEO di Nvidia, Jensen Huang, ha dichiarato:
"…NVIDIA AI Foundry ha integrato Llama 3.1 ed è pronto ad aiutare le aziende a creare e distribuire supermodelli Llama personalizzati."
I modelli di intelligenza artificiale generativa di Llama 3.1 sono addestrati su oltre 16.000 GPU Nvidia H100 Tensor Core. Inoltre, sono ottimizzati per il calcolo accelerato e il software di Nvidia che consente l'implementazione in data center, cloud e personal computer basati su GPU.
Leggi anche: Meta svela la versione più grande del modello AI di Llama 3
Attualmente, molte aziende in tutto il mondo hanno accesso ai microservizi NIM per Llama. Accenture è il primo cliente a costruire supermodelli Llama personalizzati per Aramco, AT&T e Uber. Queste aziende saranno le prime ad accedere ai microservizi NIM utilizzando Llama 3.1. Dopo aver creato con successo modelli personalizzati, un'azienda può scegliere i microservizi di Nvidia, una piattaforma OP e una piattaforma cloud per eseguire i modelli.
La scorsa settimana, Mistral AI ha rilasciato un nuovo modello 12B chiamato Mistral NeMo in collaborazione con Nvidia. Il modello è disponibile come microservizio di inferenza NIMMI di Nvidia. Per quanto riguarda il nuovo hardware GPU, un leaker ha affermato che la società di tecnologia hardware rilascerà una nuova generazione RTX 5090D solo per il mercato cinese. La nuova GPU sarà il successore dell'RTX 4090D.