أطلقت Hugging Face ميزة جديدة تتيح للمستخدمين نشر خوادم vLLM مباشرةً عبر منصة Hugging Face Jobs باستخدام أمر واحد.
- تبسط التكامل عملية نشر النماذج اللغوية الكبيرة من خلال أتمتة إعداد البنية التحتية.
- يمكن للمستخدمين تشغيل نقاط نهاية الاستدلال دون إدارة موارد الحوسبة الأساسية يدويًا.
- يقلل هذا النهج من التعقيد المرتبط عادةً بتوسيع بيئات خدمة النماذج.