Proyek llama.cpp telah merilis build b10005, yang mencakup pembaruan spesifik untuk arsitektur model DeepseekV4. Rilis ini menangani masalah manajemen urutan dengan memperbaiki `seq_rm` dan mengimplementasikan fungsi `seq_cp` yang tepat.

  • Memperbaiki `seq_rm` untuk model DeepseekV4.
  • Mengimplementasikan fungsionalitas `seq_cp` yang tepat.
  • Membuat konteks pembaruan aktual untuk penanganan yang lebih baik.
  • Build macOS Apple Silicon (arm64) tersedia, sementara dukungan KleidiAI dinonaktifkan.
  • Binari Linux mencakup Ubuntu x64 dan arm64 (CPU), s390x, Vulkan, ROCm 7.2, OpenVINO, dan SYCL FP32/FP16.
  • Build Android arm64 CPU disediakan.
  • Rilis Windows mencakup varian CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL, dan HIP.
  • Dukungan openEuler untuk x86 dan aarch64 (310p/910b ACL Graph) disertakan, dengan beberapa konfigurasi dinonaktifkan.

Pembaruan ini memastikan penanganan urutan yang benar untuk model DeepseekV4 di semua platform yang didukung.