Proyek llama.cpp telah memperkenalkan titik akhir API `/v1/systemone` baru untuk mendukung arsitektur model tertentu termasuk laya, julia-1, lev, openjev, dan kev. Pembaruan ini mencakup kode server yang diperlukan, skrip konversi, dan dokumentasi untuk mengaktifkan model-model ini dalam ekosistem llama.cpp.

  • Menambahkan titik akhir API `/v1/systemone` untuk model laya, julia-1, lev, openjev, dan kev.
  • Mengimplementasikan dukungan pemuatan dan konversi model untuk arsitektur baru.
  • Menambahkan dukungan visi dan kemampuan awalan prompt bersama.
  • Memasukkan model kecil `openjev` untuk tujuan pengujian.
  • Memperbarui dokumentasi dan meningkatkan pengalaman pengguna untuk fitur baru.

Rilis ini menyediakan infrastruktur bagi pengembang untuk menjalankan dan melayani jenis model tertentu ini menggunakan server llama.cpp.