github llama.cpp · il y a 1 h · inference

llama.cpp b10270 ajoute le support de Qwen3-TTS avec des changements cassants pour llama-tts

Traduit de English → Français

Le projet llama.cpp a publié la version b10270, introduisant le support pour le modèle Qwen3-TTS. Cette mise à jour inclut un changement cassant pour le binaire llama-tts et implémente des modifications architecturales significatives pour gérer le nouveau flux de travail de synthèse vocale.

Ajout du support pour la conversion et le chargement des composants Qwen3-TTS, y compris le modèle principal, l'encodeur, l'encodeur de locuteur et code_predictor.
Introduction d'une nouvelle API mtmd gen et renommage du composant CODE2WAV en GEN_WAV.
Mise en œuvre des capacités de clonage vocal et préservation des états clé-valeur entre les appels pour améliorer la continuité.
Ajout des APIs llama_model_get_tok_embd et mtmd_helper_gen_audio pour une interaction améliorée avec le modèle.
Inclus des correctifs de sécurité, des mises à jour de documentation et le support pour divers backends matériels sur macOS, Linux, Windows et Android.

Importance 1/3 Confiance 1/3 llama.cpp Hugging Face Local inference Voice & audio

Lire l'original

llama.cpp b10208 ajoute l'attention flash GEMM oneMKL pour le traitement des prompts accéléré par XMX

La version b10208 de llama.cpp introduit le support SYCL pour l'attention flash GEMM oneMKL, permettant l'accélération matérielle XMX pour le traitement des prompts. Ce changement améliore considérablement la vitesse d'inférence sur les GPU Intel Arc en utilisant des noyaux MKL au lieu du chemin TILE par défaut.

github llama.cpp · il y a 13 j · 2 vues

llama.cpp b10089 ajoute un support complet k-quant et i-quant à CUDA GET_ROWS

La version llama.cpp b10089 étend les opérations CUDA GET_ROWS pour prendre en charge les formats de quantification k-quants, i-quants et mxfp4. Ce changement garantit que tous les types GGML quantifiés peuvent désormais emprunter le chemin direct du périphérique pour les recherches d'embedding.

lab Hugging Face Blog · il y a 20 j · 14 vues

Hume lance le benchmark Real World VoiceEQ pour la qualité humaine de l'IA vocale

Hume a introduit Real World VoiceEQ, un benchmark conçu pour évaluer la qualité humaine des interactions vocales en mesurant dans quelle mesure les systèmes reconnaissent et produisent des informations acoustiques au-delà des transcriptions. Le benchmark évalue plus de 40 modèles propriétaires et open-source sur plus de 15 dimensions à l'aide de plus de 60 métriques dérivées de 785 000 évaluations humaines TTS et 48 000 évaluations STS.

arxiv arXiv cs.CL · il y a 23 j

Freya-TTS publie un modèle TTS turc sans tokenizeur avec un WER de 8,0 %

Les chercheurs présentent Freya-TTS, un modèle de synthèse vocale (TTS) compact et sans tokenizeur, optimisé pour le turc, qui atteint un taux d'erreur de mots (WER) de 8,0 % sur le benchmark Freya-TR-Eval. Le Diffusion Transformer à appariement de flux conditionnel non-autoregressif de 183,2 millions de paramètres opère dans l'espace latent continu figé d'AudioVAE2, permettant une reconstruction haute qualité à 48 kHz sans phonémiseur ni tokenizeur de parole discret.

media r/LocalLLaMA · il y a 33 j · 7 vues

Andi de Hugging Face démontre un pipeline vocal entièrement open-source utilisant Gemma 4 31B

Andi de Hugging Face a publié une démo entièrement open-source et gratuite qui crée un pipeline d'interaction vocale. Le système intègre parakeet de Nvidia, le modèle Gemma 4 31B servi par Cerebras, et une inférence personnalisée pour Qwen3TTS.