研究者たちは、Moonshineのような軽量音声認識モデルがベンガル語のような形態的に豊かな言語で失敗する問題を解決するため、英語中心のバイトレベルトークナイザーをネイティブスクリプトのBanglaBERT WordPiece語彙に置き換えます。この修正によりトークン埋め込み行列のリサイズが行われ、トークン肥育度が9.16から1.30へと大幅に削減されます。

  • このアプローチは自己回帰的シーケンス長を85.8%減少させ、デコーディングの不安定性を完全に解消します。
  • 882時間のLipi-Ghorデータセットで評価され、修正されたアーキテクチャはWord Error Rate (WER) 21.54%およびReal-Time Factor (RTF) 0.0053を達成しました。

この研究は、リソース集約型の事前学習を必要とせずに、コンパクトなASRモデルの異種文字間適応のためのスケーラブルで再現可能な青写真を提供します。