llama.cpp プロジェクトはビルド b11060 をリリースしました。これには、時間ステップ射影入力が連続であることを保証するための Mamba モデルの修正が含まれています。この変更により、Mamba 実装内のメモリレイアウトの問題が解消されました。
- Mamba モジュールは、エラーを防ぐために時間ステップ射影入力を連続にします。
- Mamba パスでの正規化後、連続コピー操作をスキップする後続の最適化が行われます。
- このリリースでは、macOS (Apple Silicon および Intel)、iOS、Linux (CPU、Vulkan、CUDA 12/13、ROCm、OpenVINO、SYCL)、Windows (CPU、OpenCL、CUDA 12/13、Vulkan、OpenVINO、SYCL、ROCm)、Android、および openEuler のバイナリが提供されます。
このアップデートは、llama.cpp エコシステム全体で幅広いハードウェアサポートを維持しつつ、Mamba ベースのモデルの安定性を保証します。