github llama.cpp · 5 hari lalu · inference

llama.cpp b11190 memperbaiki preprosesor mel di LFM2 audio

Diterjemahkan dari English → Bahasa Indonesia

Proyek llama.cpp merilis versi b11190, yang mencakup perbaikan untuk preprosesor mel yang digunakan dalam model audio LFM2. Perubahan ini mengatasi ketidaksesuaian yang menyebabkan transkripsi serakah berbeda untuk 4,5% bahasa Inggris dan 6,5% ucapan uji bahasa Jepang.

Menggunakan log(x + 2^-24) alih-alih menjepit ke lantai log.
Mengimplementasikan jendela Hann simetris, setara dengan torch.hann_window(periodic=False).
Menambahkan epsilon normalisasi ke simpangan baku daripada di dalam akar kuadrat.
Mengurangi kesalahan L2 relatif mel dibandingkan liquid-audio dari ~3-4% menjadi median ~2e-6 untuk bahasa Inggris dan Jepang.

Pembaruan ini memastikan bahwa preprosesor lfm2a cocok dengan output implementasi referensi, meningkatkan akurasi transkripsi di berbagai bahasa dan format presisi.

Kepentingan 1/3 Kepercayaan 1/3 llama.cpp Inference efficiency Voice & audio

Baca aslinya

Pengembang mencari saran untuk merancang arsitektur AI suara yang hemat biaya dengan latensi token pertama sekitar 500ms

Seorang pengembang AI meminta saran arsitektural untuk membangun sistem AI suara real-time yang mencapai latensi token pertama sekitar 500 ms atau kurang, sambil tetap hemat biaya dan dapat diskalakan.

media r/LocalLLaMA · 30 hari lalu · 30 tayangan

pipecat-ai merilis phonellm-alpha-1 dengan kinerja GPT 5.6 Terra

Proyek pipecat-ai telah merilis model phonellm-alpha-1, yang mencapai kinerja yang sebanding dengan GPT 5.6 pada tugas agen suara tipikal.

github llama.cpp · 50 hari lalu · 31 tayangan

llama.cpp b10369 menambahkan dukungan pocket-tts dengan generasi CUDA 80% lebih cepat

Proyek llama.cpp merilis build b10369, memperkenalkan dukungan untuk model text-to-speech pocket-tts. Pembaruan ini mencakup implementasi baru konvolusi transpos menggunakan GEMM dan col2im untuk mengoptimalkan kinerja.

media r/LocalLLaMA · 78 hari lalu · 32 tayangan

audio.cpp 0.3 menambahkan Supertonic 3, MOSS-TTS, IndexTTS2, dan Irodori-TTS dengan dukungan GGUF

Proyek audio.cpp telah merilis versi 0.3, memperkenalkan lima model teks-ke-suara baru: Supertonic 3, MOSS-TTS-Local, MOSS-TTS-Nano, IndexTTS2, dan Irodori-TTS. Pembaruan ini juga menambahkan dukungan GGUF, yang akan dirilis model demi model.

media r/LocalLLaMA · 82 hari lalu · 24 tayangan

Qwen3-ASR dan Kokoro-TTS ONNX di CPU memungkinkan asisten suara tanpa GPU

Seorang pengguna menguji latensi Qwen3-ASR dan Kokoro-TTS yang berjalan sebagai model ONNX di CPU untuk menentukan berapa banyak beban pemrosesan yang dapat dialihkan dari GPU dalam pipeline asisten suara.