media Hugging Face Forums · 4 hari lalu · open_models

Versi Celestium CARE untuk NVIDIA dirilis untuk kartu GTX/RTX

Diterjemahkan dari English → Bahasa Indonesia

Versi Celestium CARE untuk NVIDIA telah selesai dan tersedia sebagai alat profesional untuk kartu grafis GTX dan RTX. Ini memanfaatkan NVML untuk menyediakan fitur seperti pembersihan VRAM, jadwal pembersihan otomatis, dan pemantauan telemetri penuh.

Antarmuka NVML No-Flash dengan nol konsol dan kedipan
Pembersih VRAM L1–L4 plus Mode SDXL
Interval pembersihan otomatis dari 1 hingga 60 menit melalui utas daemon
Telemetri penuh untuk GPU, VRAM, suhu, dan status driver
Monitor CPU dengan ambang batas warna dan deteksi multi-GPU
Antarmuka DearPyGui (1000×950) dengan Dock Konsol
Build mandiri Nuitka tanpa dependensi Torch
Lisensi AES-256 + PBKDF2-1M dengan cadangan otomatis dan pemulihan

Alat ini mendukung semua GPU NVIDIA dengan NVML, termasuk GTX 1650, 1050 Ti, 1660, 3060, dan 4090.

Kepentingan 1/3 Kepercayaan 1/3 Hugging Face Forums Local inference

Baca aslinya

llama.cpp b11122 memperluas fusi MMVQ GLU dan menambahkan fusi SYCL baru

Proyek llama.cpp telah merilis versi b11122, yang mencakup pembaruan signifikan untuk backend SYCL. Rilis ini memperluas fusi MMVQ GLU untuk mendukung jenis kuantisasi campuran dan memperkenalkan fusi baru untuk operasi rms_norm+scale dan ssm_conv+silu.

github llama.cpp · 1 jam lalu · 11 tayangan Langsung

llama.cpp b11120 menyembunyikan simbol internal Vulkan untuk memperbaiki penghancuran state

Proyek llama.cpp merilis versi b11120, yang mengatasi bug kritis pada backend Vulkan dengan menyembunyikan simbol internal. Perubahan ini mencegah masalah penghancuran state akibat duplicate-dlopen yang terjadi ketika simbol internal diekspor.

github llama.cpp · 6 jam lalu · 13 tayangan

llama.cpp b11118 memperkenalkan direktori DMA terpetakan langsung untuk penanganan mask FA HVX

Proyek llama.cpp telah merilis build b11118, yang mencakup fitur hex-dma baru yang memperkenalkan direktori DMA terpetakan langsung lebih cocok untuk penanganan mask FA Hexagon Vector eXtended (HVX).

github llama.cpp · 17 jam lalu · 9 tayangan

llama.cpp menambahkan dukungan DFlash untuk HunyuanOCR dan memperbaiki konversi draf

Proyek llama.cpp telah menambahkan dukungan untuk dekode spekulatif DFlash dengan model HunyuanOCR dengan mengekspos tensor input lapisan dalam grafik target. Perubahan ini memungkinkan model draf membaca aliran residual, sehingga permintaan gambar dapat berjalan sukses dengan tingkat penerimaan draf sekitar 0,5 dan output OCR yang identik secara byte dibandingkan dengan eksekusi non-spekulatif.

github llama.cpp · 18 jam lalu · 13 tayangan

llama.cpp b11104 menambahkan dukungan untuk mengikat llama-server ke beberapa alamat

Proyek llama.cpp merilis versi b11104, memperkenalkan fitur baru yang memungkinkan komponen llama-server untuk mengikat ke beberapa alamat jaringan secara bersamaan.