ソース · Tencent Hunyuan (HF)
lab Tencent Hunyuan (HF) · 16日前 · 82 回表示

TencentがWeVisDoc-4Bをリリース、エンドツーエンドのドキュメントパーサー

Tencentは、ページ画像用のエンドツーエンドのドキュメントパーサーであるWeVisDoc-4Bをリリースしました。これは、LaTeX数式とHTMLテーブルを含む構造化されたMarkdownにページを変換します。Qwen3-VL-4B-Instructからファインチューニングされ、OmniDocBench v1.6で総合スコア95.38を達成し、報告されたすべての4つの設定において比較されたパーサーの中で1位となりました。

lab Tencent Hunyuan (HF) · 19日前 · 21 回表示

TencentがQwen3用のSimple Attention Sparsificationチェックポイントをリリース

Tencentは、Qwen3モデルの各クエリに対してKVブロックをランク付けおよび選択する方法を学習するSimple Attention Sparsification (SAS) チェックポイントをリリースしました。密集なアテンションスコアを蒸留する手法とは異なり、SASは選択されたブロックに連続ゲートを追加し、言語モデリング損失によるコンテキストランクのエンドツーエンド最適化を可能にします。