Microsoft Foundry, Managed Compute를 통해 큐레이션된 Hugging Face 모델 추가

Microsoft는 Microsoft Foundry Model Catalog에 Hugging Face 생태계에서 큐레이션된 서브셋의 오픈 가중치 모델을 통합했으며, 새로운 Foundry Managed Compute 플랫폼을 통해 접근할 수 있습니다.

• 모델은 보안 검사를 거치고 SafeTensors 형식으로 변환되며 Azure 스토리지에 사전 스테이징되어 아웃바운드 네트워크 의존성을 제거합니다.
• 큐레이션 파이프라인은 트렌드 모델을 자동으로 선택하고 라이선스를 검토하며 vLLM 및 TensorRT-LLM과 같은 런타임을 위한 최적화된 추론 컨테이너를 빌드합니다.
• 배포는 다른 Foundry 서비스와 단일 엔드포인트, SDK, 인증을 공유하며 글로벌 또는 데이터 존 레지던시를 지원합니다.

이 통합을 통해 기업은 기반 인프라를 관리하지 않고도 엔터프라이즈급 보안과 운영 단순화를 갖춘 오픈소스 모델을 배포할 수 있습니다.