يقترح الباحثون نظام تقديم نماذج أساسية للروبوتات يُدعى ROSA، مصمم لمصانع الروبوتات ويتجاوز افتراضات الحوسبة الطرفية لروبوت واحد. يستخدم النظام تقديم مجموعة GPU المشتركة للسماح لأساطيل الروبوتات بالوصول إلى وحدات معالجة الرسومات من فئة الخوادم عبر الشبكة.
- يعتمد ROSA تقديم مجموعة GPU المشتركة لتحسين أداء الاستدلال، وعمر البطارية، واستغلال وحدة معالجة الرسومات عبر الأسطول.
- يوفر تجريد برمجة واعٍ للروبوتات يدعم خطوط أنابيب متعددة النماذج، ومتطلبات الأداء لكل مهمة، ومعالجة الأعطال.
- يستخدم النظام جدولة مدفوعة بأهداف المصنع لتعظيم إنتاجية المصنع المؤهلة وفق اتفاقيات مستوى الخدمة (SLO) بدلاً من تقليل زمن استجابة الطلبات الفردية.
- مُنفَّذ على Ray Serve مع واجهات خلفية vLLM وPyTorch وJAX، يحسّن ROSA إنتاجية المصنع بنسبة تصل إلى 12.06 مرة مقارنة بأنظمة التقديم المخصصة التقليدية.
يعالج ROSA قيود الأنظمة الحالية من خلال التحسين لتحقيق نتائج جماعية للمصنع بدلاً من زمن استجابة الروبوت المعزول.