Microsoft интегрировала отобранную подмножество открытых моделей из экосистемы Hugging Face в каталог моделей Microsoft Foundry Model Catalog, доступный через новую платформу Foundry Managed Compute.

  • Модели проходят проверку безопасности, конвертируются в формат SafeTensors и предварительно размещаются в хранилище Azure для устранения зависимости от исходящих сетевых соединений.
  • Конвейер курирования автоматически выбирает популярные модели, проверяет лицензии и создает оптимизированные контейнеры вывода для сред выполнения, таких как vLLM и TensorRT-LLM.
  • Развертывания используют единую конечную точку, SDK и аутентификацию с другими службами Foundry, поддерживая глобальное или региональное размещение данных.

Эта интеграция позволяет предприятиям развертывать модели с открытым исходным кодом с безопасностью корпоративного уровня и операционной простотой без управления базовой инфраструктурой.