llama.cpp プロジェクトはバージョン b10291 をリリースしました。これには Vulkan バックエンドの重要な修正と標準的なプラットフォーム更新が含まれています。主な技術的変更は、送信バッチサイズの課題に対処し、ドライバーエラー用の新しい診断機能を導入します。

  • Vulkan パイプラインで送信閾値が適用されるのが遅すぎたバグを修正。
  • DeviceLost ドライバーエラーの診断時により詳細な情報を提供するためのデバッグツールを追加。
  • エラー処理を改善するために abort 呼び出しを throw 例外に置き換え、ロギングマクロを実装。
  • コードベース内の循環依存関係をクリーンアップ。

このリリースは、Vulkan 対応ハードウェアで llama.cpp を実行しているユーザーの安定性を向上させ、特定の送信タイミングの問題を解決し、クラッシュの原因に対する可視性を高めます。