أطلقت Liquid AI نموذج DSpark الأولي التجريبي لنموذج الرؤية واللغة الخاص بها LFM2.5-VL-3B، مما يتيح فك تشفير أسرع على الأجهزة الطرفية ووحدة المعالجة الرسومية دون تغيير جودة الإخراج.
يضيف Drafter حوالي 8.9٪ إلى عدد معاملات النموذج المُنتشر ويحقق تحسينات في معدل فك التشفير تصل إلى 2.66x على وحدات H100 و3.13x على الأجهزة الطرفية من Apple Silicon.
تصل مكاسب معدل النقل من البداية إلى النهاية إلى 2.27x على وحدات المعالجة الرسومية و2.62x على الأجهزة الطرفية، مع الحفاظ على النظام لميزة المعدل عبر مستويات التزامن المختلفة في SGLang.
يلاحظ المؤلفون أن فك التشفير التخميني يسرع فقط مرحلة فك التشفير، مما يعني أن تكاليف الترميز البصري والتعبئة المسبق تبقى كما هي، مما يحد من تحسينات زمن الاستجابة الإجمالي على الأجهزة الطرفية ذات الموارد المحدودة.