Molte aziende sono alle prese con il problema di come sfruttare in modo rapido, efficiente e sicuro la potenza dell’IA generativa e delle applicazioni IA/ML, soprattutto per i casi d’uso che non possono essere eseguiti nel cloud pubblico a causa di problemi di sovranità dei dati, governance e privacy. Ogni giorno emergono nuovi casi d’uso e le aziende cercano di sfruttare l’IA generativa per migliorare il servizio clienti, la produttività degli sviluppatori, l’efficienza operativa e altro ancora. Dalla trascrizione automatica di documenti interni alla ricerca ad alta velocità di contenuti multimediali e all’analisi automatizzata, molte aziende vedono nell’IA un’opportunità, ma sono preoccupate dalla perdita di proprietà intellettuale, dalla conformità e dalla privacy. Inoltre, le aziende che cercano di creare uno stack IA spesso faticano a capire come supportare al meglio gli amministratori del machine learning e i data scientist. Inoltre, la prospettiva di ingenti costi di investimento per l’IA fa sì che le aziende siano in fase di stallo relativamente alla loro strategia di IA e ML.
Nutanix GPT-in-a-Box è una piattaforma software-defined completa per i progetti di IA che include servizi per aiutare le aziende a dimensionare e configurare l’infrastruttura hardware e software adatta per l’implementazione di una serie di modelli LLM (Large Language Models) utilizzando i principali framework open source di IA e MLOps sulla Nutanix Cloud Platform. La soluzione offre ai clienti un’infrastruttura IA per l’impostazione e l’esecuzione di trasformatori generativi pre-addestrati (GPT), compresi modelli LLM, sia in ambiente edge che nel loro datacenter.
“Quando i clienti cercano di progettare e implementare soluzioni di IA generativa, si trovano a dover bilanciare le profonde competenze necessarie per installare, configurare ed eseguire questi carichi di lavoro con le preoccupazioni relative alla sicurezza dei dati e alla protezione della proprietà intellettuale aziendale, il tutto controllando i costi“, ha spiegato Greg Macatee, Senior Research Analyst, Infrastructure Systems, Platforms and Technologies Group di IDC. “Con GPT-in-a-Box, Nutanix offre ai clienti una soluzione chiavi in mano e facile da usare per i casi d’uso dell’IA, fornendo alle aziende che hanno difficoltà nell’adottare l’IA generativa una piattaforma più semplice per l’implementazione“.
La soluzione Nutanix GPT-in-a-Box, immediatamente disponibile, offre ai clienti un’infrastruttura IA pronta all’uso, controllata dal cliente sia in ambiente edge che nel datacenter e che permette loro di impostare ed eseguire modelli di IA e GPT mantenendo il controllo sui dati.
“Aiutare i clienti ad affrontare le più grandi sfide dell’IT è il focus delle nostre attività, dalla gestione della crescente complessità del multicloud alle sfide della protezione dei dati, fino all’adozione di soluzioni di intelligenza artificiale generativa, mantenendo il controllo sulla privacy e sulla conformità dei dati” ha affermato Thomas Cornely, SVP, Product Management di Nutanix. “Nutanix GPT-in-a-Box è uno stack per l’IA volto a risolvere le principali sfide legate all’adozione dell’IA generativa e consentire di far decollare i progetti di IA”.
Nutanix GPT-in-a-Box, cosa include
- La piattaforma Nutanix Cloud Infrastructure, con le soluzioni Nutanix Files Storage e Objects Storage, l’hypervisor Nutanix AHV e Kubernetes, e l’accelerazione della GPU NVIDIA, che può essere facilmente scalata.
- I servizi Nutanix per aiutare i clienti a dimensionare correttamente il proprio cluster e implementare uno stack con gli avanzati framework open source di deep learning e MLOps, un server di inferenza e una scelta di modelli linguistici ampi (LLM) come Llama2, Falcon e MPT.
- Possibilità per data scientist e amministratori ML di utilizzare immediatamente questi modelli con la propria scelta di applicazioni, interfacce utenti avanzate o CLI standard.
- La piattaforma può essere utilizzata anche per eseguire altri modelli GPT, nonché ottimizzare tali modelli sfruttando i dati interni, ospitati nei servizi Nutanix Files o Objects Storage inclusi.
“Sfruttare l’intelligenza artificiale per aiutare i nostri clienti in modo più efficiente è per noi una priorità assoluta ma, in quanto azienda di servizi finanziari regolamentati, è necessario mantenere il pieno controllo sui nostri dati“, ha dichiarato Jon Cosson, CISO di JM Finn. “La soluzione Nutanix Cloud Platform offre le prestazioni, la flessibilità e la sicurezza necessarie per implementare in modo sicuro i carichi di lavoro IA“.
La soluzione Nutanix GPT-In-a-Box si basa sulla scalabilità full stack, sulle prestazioni, sulla resilienza e sulla facilità d’uso per cui è nota piattaforma Nutanix Cloud. L’esperienza di Nutanix in termini di infrastruttura scalabile nei casi d’uso relativi a cloud pubblico, datacenter e edge offre l’ambiente ideale per mettere a punto ed eseguire le applicazioni di intelligenza artificiale mantenendo il controllo sui dati. Infatti, in un recente sondaggio, il 78% dei clienti Nutanix ha dichiarato che probabilmente eseguirà i propri carichi di lavoro IA/ML sulla Nutanix Cloud Platform.
L’esperienza di Nutanix e il suo coinvolgimento nella comunità IA open source offre ai clienti una solida base su cui impostare la propria strategia IA. Tra i principali contributi: partecipazione al comitato consultivo di MLCommons (standard IA); co-fondazione e leadership tecnica nella definizione di ML Storage Benchmarks e Medicine Benchmarks; co-presidenza dei gruppi di lavoro Kubeflow (MLOps) Training e AutoML presso la Cloud Native Computing Foundation (CNCF).
“Red Hat aiuta le aziende di diversi settori ad accelerare le iniziative aziendali e mission critical attraverso lo sviluppo e l’implementazione di applicazioni IA nel cloud ibrido. Con questo lancio, i clienti comuni possono sfruttare Red Hat OpenShift AI insieme allo stack IA di Nutanix per innovare su una base open source coerente e scalabile, mantenendo il controllo sui propri dati” dichiara Sarwar Raza, Vice President, Cloud Services, Red Hat