アリババグループのQwenチームは、ビジョン言語シリーズの最新フラッグシップモデルであるQwen2.5-VLの詳細を記載した技術レポートを公開しました。このレポートでは、視覚認識、物体位置特定、文書解析、長時間動画の理解における重要な進展が概説されています。

  • モデルは動的解像度処理と絶対時間エンコーディングを導入し、様々なサイズの画像や数時間にわたる動画の処理に対応し、秒単位のイベント位置特定を実現します。
  • ウィンドウアテンションを備えたネイティブな動的解像度のビジョントランスフォーマー（ViT）は、ネイティブ解像度を維持しつつ計算オーバーヘッドを削減します。
  • 事前学習コーパスは1.2兆トークンから4.1兆トークンに拡大され、タスク固有のファインチューニングなしでドメイン横断的なパフォーマンスを向上させました。
  • フラッグシップモデルQwen2.5-VL-72BはGPT-4oやClaude 3.5 Sonnetなどの最先端モデルと同等のパフォーマンスを示し、より小規模な7Bおよび3Bバリアントはリソース制約のある環境で競合他社を上回る性能を発揮します。

レポートでは、このモデルがコンピュータやモバイルデバイス上で推論やタスク実行のためのインタラクティブな視覚エージェントとして機能する能力を強調しています。