llama.cpp プロジェクトは、Clef モデルのビジョン入力をサポートするためにサーバーコンポーネントを更新しました。この変更は pull request #29969 の一部です。

  • Clef のビジョン入力サポートを追加。
  • input_attn_causal をプライベートに移動。
  • 古い server_batch::embd を拡張。
  • server_batch::token::pos を多次元に変更。
  • アボート処理を修正。
  • 画像トークンの上限を修正。
  • yield_to_queue のデータ変更問題を修正。