github llama.cpp · 2 jam lalu · inference

llama.cpp b10598 menggunakan algoritma resize pillow-accurate dan memperbaiki resize_algo untuk semua model

Diterjemahkan dari English → Bahasa Indonesia

Proyek llama.cpp merilis build b10598, yang memperbarui modul mtmd untuk menggunakan algoritma resize pillow-accurate dan memperbaiki resize_algo untuk semua model. Rilis ini juga mencakup optimasi kecepatan.

Modul mtmd sekarang menggunakan algoritma resize pillow-accurate.
resize_algo telah diperbaiki di semua model.
Optimasi kecepatan umum diterapkan.

Pembaruan ini memastikan resizing gambar yang lebih akurat di modul mtmd dan meningkatkan kinerja bagi pengguna yang menjalankan llama.cpp di macOS, iOS, Linux, Windows, Android, dan openEuler.

Kepentingan 1/3 Kepercayaan 1/3 llama.cpp Inference efficiency Local inference

Baca aslinya

llama.cpp b10593 memperbaiki rollback DeepseekV4 dan pemuatan model

Proyek llama.cpp telah merilis build b10593, yang mengatasi masalah kritis dengan arsitektur model DeepseekV4. Pembaruan ini secara khusus menyelesaikan kegagalan rollback yang terjadi selama pemrosesan multi-sekuens.

github llama.cpp · 1 hari lalu · 2 tayangan

llama.cpp b10584 memperbaiki ukuran konteks draf untuk mencegah kesalahan server 500

Proyek llama.cpp merilis build b10584, mengatasi masalah kritis di mana ukuran konteks draf tidak sesuai dengan konteks target, menyebabkan permintaan server gagal dengan kesalahan 500.

github llama.cpp · 2 hari lalu · 5 tayangan

llama.cpp b10568 menggunakan ggml_rope_set_offset() untuk DeepSeek 2

Proyek llama.cpp merilis build b10568, yang memperbarui penanganan model untuk menggunakan fungsi `ggml_rope_set_offset()`. Perubahan ini sebagian diterapkan untuk mendukung DeepSeek 2.

media Hugging Face Forums · 2 hari lalu · 4 tayangan

Mesin Celestium menambahkan optimasi VRAM dan fallback CPU untuk SDXL

Mesin Celestium telah memperkenalkan beberapa peningkatan untuk meningkatkan kinerja SDXL pada perangkat keras dengan VRAM rendah. Perubahan ini berfokus pada manajemen memori, stabilitas, dan mekanisme fallback untuk memastikan generasi yang konsisten bahkan pada sistem yang terbatas.

github llama.cpp · 3 hari lalu · 9 tayangan

llama.cpp b10541 menambahkan argumen --mmproj-device untuk proyek multimodal

Proyek llama.cpp merilis build b10541, memperkenalkan argumen baris perintah `--mmproj-device` yang memungkinkan pengguna menentukan backend perangkat untuk memuat file proyeksi multimodal.