Prism-ML telah merilis model Ternary-Bonsai-27B, yang tersedia sebagai checkpoint GGUF di Hugging Face.
Rilis ini menyediakan varian 27 miliar parameter dari arsitektur Qwen3.6 yang dioptimalkan untuk inferensi lokal melalui format GGUF.
media
r/LocalLLaMA
·
45 hari lalu
·
open_models
Prism-ML merilis checkpoint GGUF Bonsai Qwen3.6-27B
Diterjemahkan dari English → Bahasa Indonesia
Artikel terkait
github
llama.cpp
·
baru saja
·
1 tayangan
Langsung
llama.cpp b10677 memperbaiki bug ketergantungan view-alias Vulkan
Rilis llama.cpp b10677 mengatasi bug kritis di backend Vulkan di mana ketergantungan view-alias yang hilang menyebabkan pengoptimal graf salah mengurutkan node.
github
llama.cpp
·
2 jam lalu
·
1 tayangan
llama.cpp b10676 memperbaiki conv_transpose_2d untuk beberapa batch di ggml dan Metal
Rilis llama.cpp b10676 memperbaiki bug di `conv_transpose_2d` di mana hanya batch pertama yang dihitung, meninggalkan batch berikutnya sebagai nol. Perbaikan ini berlaku untuk pustaka inti ggml dan implementasi backend Metal.
github
llama.cpp
·
4 jam lalu
·
1 tayangan
llama.cpp b10673 menambahkan penyetelan fa-vec untuk Apple M4
Proyek llama.cpp merilis build b10673, yang mencakup optimasi kinerja spesifik untuk perangkat keras Apple M4. Pembaruan ini memperkenalkan catatan fa_vec_tuned_table ke dalam modul ggml-metal-tuning untuk meningkatkan efisiensi backend Metal.
github
llama.cpp
·
5 jam lalu
·
2 tayangan
llama.cpp b10670 mengarahkan decode KV terkuantisasi ke TILE pada Xe2 (BMG)
Proyek llama.cpp merilis versi b10670, yang mencakup optimasi khusus untuk arsitektur Xe2 Intel. Pembaruan ini mengarahkan operasi decode kunci-nilai (KV) terkuantisasi secara eksklusif ke backend TILE untuk perangkat keras BMG, sambil mempertahankan backend VEC pada arsitektur lain hingga divalidasi.
github
llama.cpp
·
6 jam lalu
·
3 tayangan
llama.cpp b10672 menambahkan dukungan Whisper.cpp, pengaktifan NPU Qwen3.5, dan pembaruan OpenVINO 2026.3.1
Proyek llama.cpp merilis build b10672, yang memperbarui backend OpenVINO ke versi 2026.3.1 dan menambahkan dukungan untuk model Whisper.cpp pada NPU.