يُظهر الباحثون أن نموذج لغة للانتشار المنفصل يمكنه نسخ الكلام خطياً عن طريق تحسين النص الكامل بالتوازي خلال عدد قليل من خطوات إزالة الضوضاء، بدلاً من استخدام فكوك التنبؤ الذاتي.
- تستخدم النهج واجهة أصلية للصوت لـ DiffusionGemma، وهو نموذج مزيج الخبراء بحجم 26 مليار معلمة يولد النص عبر الانتشار المنفصل الموحد والعشوائي للرموز.
- يوفر مشفر Whisper المجمد الميزات الصوتية لمُوجّه خفيف الوزن، مع محولات منخفضة الرتبة تسمح للعمود الفقري المجمد بالانتباه إلى الوسيط الجديد.
- يتم تدريب حوالي 42 مليون معلمة فقط (0.16 في المائة من العمود الفقري)، باستخدام فقدان التصنيف الزمني الارتباطي عبر رأس الإخراج المجمد لتثبيت الصوت.
- يحقق النموذج معدل خطأ للكلمات بنسبة 6.6 في المائة على مجموعة LibriSpeech test-clean وينسخ النص في حوالي ثمانية خطوات متوازية بغض النظر عن طول العبارة.
يستخدم النظام الناتج محولاً واحداً تم تدريبه على ست لغات، وتم تقييمه هنا على الإنجليزية والهندية والصينية الماندرين، مما يوفر بديلاً متوازياً للتعرف على الكلام التسلسلي.