IBM ने Granite Speech परिवार में दो नए कॉम्पैक्ट, 470M-पैरामीटर अंग्रेजी स्पीच रिकग्निशन मॉडल जारी किए हैं: `granite-speech-5.0-470m-turboctc` और `granite-speech-5.0-470m-turboctc-nc`। ये एनकोडर-ओनली मॉडल NVIDIA H200 GPU पर 12,600 RTFx से अधिक अविश्वसनीय ट्रांसक्रिप्शन गति प्राप्त करते हुए उच्च सटीकता बनाए रखते हैं।
- गैर-वाणिज्यिक मॉडल (`-nc`) अतिरिक्त डेटा पर प्रशिक्षित है और CC-BY-NC-SA-4.0 लाइसेंस के साथ आता है, जो OpenASR सार्वजनिक टेस्ट सेट्स पर 4.85% WER स्कोर करता है।
- Apache 2.0 लाइसेंस वाला मॉडल 5.00% WER स्कोर करता है और FFASR लीडरबोर्ड पर सटीकता में पांचवें स्थान पर है, जबकि यह सबसे तेज दो मॉडल हैं।
- दोनों मॉडल चंकवाइज़ एटेंशन के साथ 16 Conformer ब्लॉक्स के स्टैक का उपयोग करते हैं और प्रति सेकंड 12.5 टोकन उत्पन्न करते हैं, जो पिछले Granite Speech मॉडलों की तुलना में 20x से अधिक तेज थ्रूपुट प्रदान करते हैं।
- आर्किटेक्चर लॉग मेल् स्पेक्ट्रोग्राम दर को प्रति सेकंड 100 फ्रेम से घटाकर प्रति सेकंड 12.5 टोकन करने के लिए 2x सबसैंपलिंग के तीन चरणों पर निर्भर करता है।
नया एनकोडर-ओनली डिज़ाइन एक छोटी मेमोरी फुटप्रंट प्रदान करता है, जो एज डिवाइसों पर स्पीच-टू-टेक्स्ट कार्यों के लिए आदर्श है, हालांकि यह पिछले LM-संपन्न मॉडलों में पाए जाने वाले स्पीच ट्रांसलेशन जैसे क्षमताओं को त्याग देता है।