Hugging Face collabora con Microsoft per lanciare il Catalogo dei Modelli di Hugging Face su Azure.

Hugging Face collaborates with Microsoft to launch the Hugging Face Model Catalog on Azure.

Oggi siamo entusiasti di annunciare che Hugging Face amplia la sua collaborazione con Microsoft per portare modelli open-source dal Hugging Face Hub ad Azure Machine Learning. Insieme abbiamo costruito un nuovo Hugging Face Hub Model Catalog disponibile direttamente all’interno di Azure Machine Learning Studio, riempito con migliaia dei modelli Transformers più popolari del Hugging Face Hub. Con questa nuova integrazione, ora è possibile distribuire i modelli Hugging Face con pochi clic su endpoint gestiti, eseguiti su infrastruttura Azure sicura e scalabile.

Questa nuova esperienza si sviluppa dalla partnership strategica che abbiamo annunciato l’anno scorso quando abbiamo lanciato Azure Machine Learning Endpoints come una nuova app gestita nel Azure Marketplace, per semplificare l’esperienza di distribuzione di grandi modelli di linguaggio su Azure. Sebbene la nostra soluzione precedente nel marketplace fosse un promettente primo passo, aveva alcune limitazioni che potevamo superare solo attraverso un’integrazione nativa all’interno di Azure Machine Learning. Per affrontare queste sfide e migliorare l’esperienza dei clienti, abbiamo collaborato con Microsoft per offrire un’esperienza completamente integrata per gli utenti di Hugging Face all’interno di Azure Machine Learning Studio.

• Rendendo LLMs ancora più accessibili con bitsandbytes, quantizzazione a 4 bit e QLoRA
• Presentazione dell’integrazione di BERTopic con Hugging Face Hub
• Presentazione del contenitore di inferenza LLM di Hugging Face per Amazon SageMaker

Ospitando oltre 200.000 modelli open-source e servendo oltre 1 milione di download di modelli al giorno, Hugging Face è la destinazione di riferimento per tutto il Machine Learning. Ma la distribuzione di Transformers in produzione rimane ancora oggi una sfida.

Uno dei principali problemi che gli sviluppatori e le organizzazioni affrontano è quanto sia difficile distribuire e scalare API di inferenza di produzione di qualità. Naturalmente, un’opzione facile è affidarsi a servizi di intelligenza artificiale basati su cloud. Anche se sono estremamente semplici da usare, questi servizi sono di solito alimentati da un set limitato di modelli che potrebbero non supportare il tipo di attività di cui hai bisogno e che non possono essere personalizzati in modo approfondito, se mai. In alternativa, i servizi di machine learning basati su cloud o le piattaforme interne ti danno il pieno controllo, ma a scapito di più tempo, complessità e costi. Inoltre, molte aziende hanno rigorosi requisiti di sicurezza, conformità e privacy che impongono loro di distribuire i modelli solo su infrastrutture su cui hanno il controllo amministrativo.

“Con il nuovo catalogo di modelli Hugging Face Hub, nativamente integrato in Azure Machine Learning, apriamo una nuova pagina nella nostra collaborazione con Microsoft, offrendo un modo estremamente facile per i clienti aziendali di distribuire modelli Hugging Face per l’inferenza in tempo reale, il tutto all’interno del loro ambiente Azure sicuro”, ha dichiarato Julien Simon, Chief Evangelist presso Hugging Face.

“L’integrazione dei modelli open-source di Hugging Face in Azure Machine Learning rappresenta il nostro impegno nel dotare gli sviluppatori di strumenti di intelligenza artificiale all’avanguardia”, ha affermato John Montgomery, Corporate Vice President, Azure AI Platform presso Microsoft. “Questa collaborazione non solo semplifica il processo di distribuzione di grandi modelli di linguaggio, ma fornisce anche un ambiente sicuro e scalabile per l’inferenza in tempo reale. È un traguardo entusiasmante nella nostra missione di accelerare le iniziative di intelligenza artificiale e portare soluzioni innovative sul mercato in modo rapido e sicuro, supportate dalla potenza dell’infrastruttura Azure”.

La distribuzione dei modelli Hugging Face su Azure Machine Learning non è mai stata così semplice:

• Apri il registro di Hugging Face in Azure Machine Learning Studio.
• Fai clic sul Catalogo di Modelli Hugging Face.
• Filtra per compito o licenza e cerca i modelli.
• Fai clic sulla tile del modello per aprire la pagina del modello e scegli l’opzione di distribuzione in tempo reale per distribuire il modello.
• Seleziona un tipo di istanza di Azure e fai clic su distribuisci.

In pochi minuti, puoi testare il tuo endpoint e aggiungere la sua API di inferenza alla tua applicazione. Non è mai stato così facile!

Se desideri vedere il servizio in azione, puoi fare clic sull’immagine qui sotto per avviare una guida video.

Il Catalogo di Modelli Hugging Face su Azure Machine Learning è disponibile oggi in anteprima pubblica in tutte le regioni di Azure in cui è disponibile Azure Machine Learning. Prova il servizio e facci sapere i tuoi commenti e domande nel forum!