Microsoft a intégré un sous-ensemble de modèles open-weight du catalogue Hugging Face dans le Microsoft Foundry Model Catalog, accessible via sa nouvelle plateforme Foundry Managed Compute.

  • Les modèles sont soumis à un contrôle de sécurité, convertis au format SafeTensors et pré-positionnés dans le stockage Azure pour éliminer les dépendances réseau sortantes.
  • Le pipeline de curation sélectionne automatiquement les modèles tendance, vérifie les licences et construit des conteneurs d'inférence optimisés pour des runtimes comme vLLM et TensorRT-LLM.
  • Les déploiements partagent un point de terminaison unique, des SDK et une authentification avec d'autres services Foundry, prenant en charge la résidence globale ou par zone de données.

Cette intégration permet aux entreprises de déployer des modèles open-source avec une sécurité de niveau entreprise et une simplicité opérationnelle sans gérer l'infrastructure sous-jacente.