IBMは、Granite Speechファミリーに属する2つのコンパクトな470Mパラメータの英語音声認識モデル「granite-speech-5.0-470m-turboctc」と「granite-speech-5.0-470m-turboctc-nc」をリリースした。これらのエンコーダーのみからなるモデルは、NVIDIA H200 GPU上で高精度さを維持しつつ、12,600 RTFx超の unprecedented なトランスクリプション速度を実現している。

  • 非商用モデル（`-nc`）は追加データで学習され、CC-BY-NC-SA-4.0ライセンスの下で提供され、OpenASR公開テストセットでWER 4.85%を記録した。
  • Apache 2.0ライセンスのモデルはWER 5.00%を記録し、FFASRリーダーボードで精度が第5位でありながら、最速の2つのモデルの一つである。
  • 両モデルとも16層のConformerブロックとチャンクごとの注意機構を使用し、毎秒12.5トークンを生成する。これは以前のGranite Speechモデルよりも20倍以上高速なスループットを提供する。
  • アーキテクチャは2xサブサンプリングを3段階で適用し、100フレーム/秒のlog Melスペクトログラムのレート毎秒12.5トークンに削減している。

新しいエンコーダーのみからなる設計は、エッジデバイスでの音声からテキストへの変換タスクに適した小さなメモリフットプリントを提供するが、以前のLM搭載モデルに見られた音声翻訳などの機能は犠牲になっている。