github llama.cpp · hace 1 h · inference

llama.cpp b10270 añade soporte para Qwen3-TTS con cambios disruptivos en llama-tts

Traducido del English → Español

El proyecto llama.cpp lanzó la versión b10270, introduciendo soporte para el modelo Qwen3-TTS. Esta actualización incluye un cambio disruptivo en el binario llama-tts e implementa modificaciones arquitectónicas significativas para manejar el nuevo flujo de trabajo de texto a voz.

Añadido soporte para convertir y cargar componentes de Qwen3-TTS, incluyendo el modelo principal, codificador, codificador de hablante y code_predictor.
Introducida una nueva API mtmd gen y renombrado el componente CODE2WAV a GEN_WAV.
Implementadas capacidades de clonación de voz y preservados los estados clave-valor entre llamadas para mejorar la continuidad.
Añadidas las APIs llama_model_get_tok_embd y mtmd_helper_gen_audio para una interacción mejorada con el modelo.
Incluidas correcciones de seguridad, actualizaciones de documentación y soporte para varios backends de hardware en macOS, Linux, Windows y Android.

Importancia 1/3 Confianza 1/3 llama.cpp Hugging Face Local inference Voice & audio

Leer original

llama.cpp b10208 añade atención flash GEMM oneMKL para procesamiento de prompts acelerado por XMX

La versión b10208 de llama.cpp introduce soporte SYCL para la atención flash GEMM de oneMKL, permitiendo la aceleración por hardware XMX para el procesamiento de prompts. Este cambio mejora significativamente la velocidad de inferencia en las GPUs Intel Arc al utilizar núcleos MKL en lugar de la ruta TILE predeterminada.

github llama.cpp · hace 13 d · 2 vistas

llama.cpp b10089 añade soporte completo de k-quant e i-quant a CUDA GET_ROWS

La versión llama.cpp b10089 extiende las operaciones CUDA GET_ROWS para dar formato a los formatos de cuantización k-quants, i-quants y mxfp4. Este cambio asegura que todos los tipos GGML cuantizados ahora pueden tomar la ruta directa del dispositivo para búsquedas de incrustaciones.

lab Hugging Face Blog · hace 20 d · 14 vistas

Hume lanza el benchmark Real World VoiceEQ para la calidad de voz humana en IA

Hume ha presentado Real World VoiceEQ, un benchmark diseñado para evaluar la calidad humana de la interacción por voz mediante la evaluación de cuán bien los sistemas reconocen y producen información acústica más allá de las transcripciones. El benchmark evalúa más de 40 modelos propietarios y de código abierto en más de 15 dimensiones utilizando más de 60 métricas derivadas de 785,000 valoraciones humanas de TTS y 48,000 de STS.

arxiv arXiv cs.CL · hace 23 d

Freya-TTS lanza un modelo de TTS turco sin tokenizador con WER del 8,0%

Los investigadores presentan Freya-TTS, un modelo compacto de texto a voz sin tokenizador optimizado para turco que alcanza una tasa de error de palabras (WER) del 8,0% en la benchmark Freya-TR-Eval. El Diffusion Transformer condicional no autoregresivo con 183,2 millones de parámetros, basado en matched flow, opera en el espacio latente continuo congelado de AudioVAE2, permitiendo una reconstrucción de alta calidad a 48 kHz sin fonemizador ni tokenizador de habla discreto.

media r/LocalLLaMA · hace 33 d · 7 vistas

Andi de Hugging Face demuestra una canalización de voz completamente de código abierto utilizando Gemma 4 31B

Andi de Hugging Face ha lanzado una demo totalmente de código abierto y gratuita que crea una canalización de interacción por voz. El sistema integra Nvidia parakeet, el modelo Gemma 4 31B servido por Cerebras, e inferencia personalizada para Qwen3TTS.