media r/LocalLLaMA · 23日前 · 6 回表示 PaddlePaddleが階並列デコーディングを備えた1BモデルHPD-Parsingをリリース PaddlePaddleは、階層並列デコーディング・パラダイムを活用してスループットを向上させる軽量な10億パラメータの文書解析モデルHPD-Parsingを発表した。このアーキテクチャは、メインのレイアウトブランチを通じてグローバルなページ構造を調整しつつ、局所的なコンテンツ生成を並列ブランチにディスパッチし、プログレッシブマルチトークン予測を用いてデコーディングステップ数を削減する。