github llama.cpp · 1 jam lalu · inference

llama.cpp b10270 menambahkan dukungan Qwen3-TTS dengan perubahan pemecah pada llama-tts

Diterjemahkan dari English → Bahasa Indonesia

Proyek llama.cpp merilis versi b10270, memperkenalkan dukungan untuk model Qwen3-TTS. Pembaruan ini mencakup perubahan pemecah pada biner llama-tts dan mengimplementasikan modifikasi arsitektur signifikan untuk menangani alur kerja teks-ke-suara baru.

Menambahkan dukungan untuk mengonversi dan memuat komponen Qwen3-TTS, termasuk model utama, encoder, encoder pembicara, dan code_predictor.
Memperkenalkan API mtmd gen baru dan mengubah nama komponen CODE2WAV menjadi GEN_WAV.
Mengimplementasikan kemampuan kloning suara dan melestarikan keadaan kunci-nilai antar panggilan untuk meningkatkan kontinuitas.
Menambahkan API llama_model_get_tok_embd dan mtmd_helper_gen_audio untuk interaksi model yang lebih baik.
Termasuk perbaikan keamanan, pembaruan dokumentasi, dan dukungan untuk berbagai backend perangkat keras di macOS, Linux, Windows, dan Android.

Kepentingan 1/3 Kepercayaan 1/3 llama.cpp Hugging Face Local inference Voice & audio

Baca aslinya

llama.cpp b10208 menambahkan oneMKL GEMM flash attention untuk pemrosesan prompt yang dipercepat XMX

Rilis llama.cpp b10208 memperkenalkan dukungan SYCL untuk oneMKL GEMM flash attention, memungkinkan akselerasi perangkat keras XMX untuk pemrosesan prompt. Perubahan ini secara signifikan meningkatkan kecepatan inferensi pada GPU Intel Arc dengan memanfaatkan kernel MKL alih-alih jalur TILE default.

github llama.cpp · 13 hari lalu · 2 tayangan

llama.cpp b10089 menambahkan dukungan penuh k-quant dan i-quant ke CUDA GET_ROWS

Rilis llama.cpp b10089 memperluas operasi CUDA GET_ROWS untuk mendukung format kuantisasi k-quants, i-quants, dan mxfp4. Perubahan ini memastikan bahwa semua jenis GGML yang terkuantisasi sekarang dapat mengambil jalur perangkat langsung untuk pencarian embedding.

lab Hugging Face Blog · 20 hari lalu · 14 tayangan

Hume merilis benchmark Real World VoiceEQ untuk kualitas suara AI manusia

Hume telah memperkenalkan Real World VoiceEQ, sebuah benchmark yang dirancang untuk mengevaluasi kualitas interaksi suara manusia dengan menilai seberapa baik sistem mengenali dan menghasilkan informasi akustik di luar transkrip. Benchmark ini mengevaluasi lebih dari 40 model proprietary dan open-source di atas 15+ dimensi menggunakan lebih dari 60 metrik yang berasal dari 785.000 penilaian manusia TTS dan 48.000 penilaian STS.

arxiv arXiv cs.CL · 23 hari lalu

Freya-TTS merilis model TTS Turki tanpa tokenizer dengan WER 8,0%

Para peneliti memperkenalkan Freya-TTS, model text-to-speech yang ringkas dan bebas tokenizer, dioptimalkan untuk bahasa Turki yang mencapai tingkat kesalahan kata (WER) 8,0% pada benchmark Freya-TR-Eval. Diffusion Transformer pencocokan aliran kondisional non-autoregresif dengan 183,2 juta parameter beroperasi di ruang laten kontinu AudioVAE2 yang dibekukan, memungkinkan rekonstruksi berkualitas tinggi 48 kHz tanpa fonemizer atau tokenizer ucapan diskrit.

media r/LocalLLaMA · 33 hari lalu · 7 tayangan

Andi dari Hugging Face mendemonstrasikan pipeline suara open-source penuh menggunakan Gemma 4 31B

Andi dari Hugging Face telah merilis demo sepenuhnya open-source dan gratis yang membuat pipeline interaksi suara. Sistem ini mengintegrasikan parakeet Nvidia, model Gemma 4 31B yang di-servis oleh Cerebras, dan inferensi khusus untuk Qwen3TTS.