exaBITS sblocca milioni di GPU consumer per l’elaborazione AI

exaBITS ha lanciato la prima rete informatica decentralizzata veramente accelerata al mondo, destinata a rivoluzionare l'intelligenza artificiale a prezzi accessibili. Mettendo in comune le risorse GPU globali e ottimizzandone l’utilizzo, riducono drasticamente i costi di formazione e implementazione di modelli IA di grandi dimensioni.

exaBITS ha già integrato oltre 65.000 GPU in tutto il mondo durante la sua fase beta privata, attirando un'ampia gamma di clienti, dalle startup in erba agli unicorni di spicco nel settore dell'intelligenza artificiale, facendo risparmiare loro centinaia di migliaia di dollari. L'accesso unico dell'azienda alla fornitura e al potenziamento delle GPU di livello consumer ha portato a una base di clienti attiva in continua crescita.

Questa base beneficia di un’efficienza dei costi senza precedenti, di prestazioni accelerate e dell’accesso alle macchine essenziali per i loro progetti, posizionando exaBITS come la scelta leader nel settore globale dell’intelligenza artificiale.

Un esempio è quello di uno dei loro grandi clienti aziendali che ha utilizzato un fornitore di cloud computing istituzionale all'inizio del suo percorso. Si sono presto resi conto che gli elevati costi operativi di questo sistema di calcolo comportavano un notevole drenaggio di risorse, con costi che ammontavano a oltre 150.000 dollari al mese. Quando sono passati a exaBITS, i costi di elaborazione sono diminuiti del 71% e le prestazioni sono aumentate al 130%.

La sfida nell'intelligenza artificiale è l'approvvigionamento di GPU potenti come H100, A100 di Nvidia e MI300 e MI200 di AMD, che sono diventate molto ricercate e, di conseguenza, scarse. exaBITS risolve questo problema utilizzando non solo queste GPU avanzate ma anche trasformando GPU di livello consumer come la 3090/4090 per adattarle alle loro prestazioni.

Questa capacità è fondamentale, considerando che molte aziende devono affrontare liste di attesa lunghe anni per acquisire GPU di livello aziendale o riscontrano colli di bottiglia per proteggere le istanze presso altri fornitori di cloud computing.

GPU di fornitura e consumo H100 / A100

Al centro della rete exaBITS ci sono data center T3, strutture minerarie e massicce GPU distribuite a livello di consumatore, che comprendono oltre 65.000 GPU, tra cui numerosi H100 e A100. Una chiave per fornire un’intelligenza artificiale accessibile su larga scala è la loro capacità di migliorare le prestazioni delle GPU più deboli attraverso la blockchain.

Hanno ottenuto una riduzione dei costi fino a 15 volte e una riduzione dei costi del 90%, aprendo la strada a una solida rete decentralizzata che utilizza in modo efficace le GPU consumer. Ciò riduce la dipendenza dalle macchine di livello aziendale, aumentando la disponibilità delle risorse sulla rete.

La tabella di marcia da seguire

exaBITS ha dimostrato la sua capacità di soddisfare le esigenze tecniche del mercato in modo olistico e la tabella di marcia mostra un chiaro percorso verso il futuro. Parte della roadmap include una piattaforma ML DevOps che gestisce e accelera in modo intelligente la formazione e l'inferenza, garantendo l'efficienza produttiva e la qualità del servizio dei modelli IA.

Ciò fa sì che exaBITS non solo sconvolga, ma superi operatori storici come AWS e Google. Oltre all’accelerazione, exaBITS utilizzerà la sua tecnologia anti-guasto. Ciò risolve l’elevato tasso di fallimento dei cluster GPU, che è il killer nascosto dei progetti di intelligenza artificiale. Questa tecnologia migliora la stabilità del sistema di oltre il 50%, migliorando significativamente l'efficienza dell'utilizzo delle risorse.

I loro ricercatori hanno creato una funzionalità di ripristino automatico che identifica immediatamente il momento in cui una GPU si guasta e consente di riprendere l'addestramento dal punto in cui si è verificato il guasto invece di dover riavviare un addestramento di mesi, riducendo il rischio di un addestramento prolungato e di maggiori costi quando i carichi di lavoro sono ridotti. interrotto.

Il team, con un ricco background in aziende come Bitmain, Meta e (menzionare qui qualcosa relativo ai data center o al calcolo distribuito) e vari operatori di telefonia mobile, porta una vasta esperienza nell'intermediazione di accordi per data center e strutture minerarie.

Il team di exaBITS è composto da scienziati con profonda esperienza nel cloud computing, intelligenza artificiale e blockchain, supportati da un team aziendale esperto nei modelli di business Web3. Insieme, portano oltre 50 anni di esperienza collettiva in questi campi.

exaBITS sta attingendo a una vasta risorsa di GPU sottoutilizzate con uno stack tecnologico e un team in grado di sfruttarle per una potente inferenza e formazione tramite intelligenza artificiale. Con l'accesso a GPU di alto livello come H100 e A100 e la capacità di trasformare le GPU consumer per ottenere prestazioni simili a GPU di livello aziendale, exaBITS si posiziona come il principale fornitore di cloud computing decentralizzato, democratizzando lo sviluppo dell'intelligenza artificiale e riducendo le barriere di costo per progetti e sviluppatori di intelligenza artificiale. a livello globale.

Visita exaBITS e scopri di più