github llama.cpp · há 1 h · inference

llama.cpp b10270 adiciona suporte para Qwen3-TTS com mudanças que quebram o llama-tts

Traduzido do English → Português (BR)

O projeto llama.cpp lançou a versão b10270, introduzindo suporte para o modelo Qwen3-TTS. Esta atualização inclui uma mudança que quebra no binário llama-tts e implementa modificações arquiteturais significativas para lidar com o novo fluxo de trabalho de texto para fala.

Adicionado suporte para converter e carregar componentes do Qwen3-TTS, incluindo o modelo principal, codificador, codificador de locutor e code_predictor.
Introduzida uma nova API mtmd gen e renomeado o componente CODE2WAV para GEN_WAV.
Implementadas capacidades de clonagem de voz e preservados os estados chave-valor entre chamadas para melhorar a continuidade.
Adicionadas as APIs llama_model_get_tok_embd e mtmd_helper_gen_audio para interação aprimorada com o modelo.
Incluídas correções de segurança, atualizações de documentação e suporte para vários backends de hardware em macOS, Linux, Windows e Android.

Importância 1/3 Confiança 1/3 llama.cpp Hugging Face Local inference Voice & audio

Ler original

llama.cpp b10208 adiciona flash attention GEMM oneMKL para processamento de prompt acelerado por XMX

A versão b10208 do llama.cpp introduz suporte SYCL para flash attention GEMM oneMKL, permitindo aceleração por hardware XMX no processamento de prompts. Essa alteração melhora significativamente a velocidade de inferência em GPUs Intel Arc ao utilizar kernels MKL em vez do caminho TILE padrão.

github llama.cpp · há 13 d · 2 visualizações

llama.cpp b10089 adiciona suporte completo a k-quant e i-quant para CUDA GET_ROWS

O lançamento llama.cpp b10089 estende as operações CUDA GET_ROWS para suportar formatos de quantização k-quants, i-quants e mxfp4. Esta alteração garante que todos os tipos GGML quantizados agora podem seguir o caminho direto do dispositivo para buscas de embedding.

lab Hugging Face Blog · há 20 d · 14 visualizações

Hume lança benchmark Real World VoiceEQ para qualidade de voz humana em IA

A Hume introduziu o Real World VoiceEQ, um benchmark projetado para avaliar a qualidade humana da interação por voz, analisando o quão bem os sistemas reconhecem e produzem informações acústicas além das transcrições. O benchmark avalia mais de 40 modelos proprietários e open-source em mais de 15 dimensões, utilizando mais de 60 métricas derivadas de 785.000 avaliações humanas de TTS e 48.000 de STS.

arxiv arXiv cs.CL · há 23 d

Freya-TTS lança modelo de TTS turco sem tokenizador com WER de 8,0%

Pesquisadores apresentam o Freya-TTS, um modelo compacto de texto para fala sem tokenizador otimizado para turco que alcança uma taxa de erro de palavras (WER) de 8,0% no benchmark Freya-TR-Eval. O Diffusion Transformer condicional não autoregressivo com 183,2 milhões de parâmetros, baseado em matched flow, opera no espaço latente contínuo congelado do AudioVAE2, permitindo reconstrução de alta qualidade a 48 kHz sem fonemizador ou tokenizador de fala discreto.

media r/LocalLLaMA · há 33 d · 7 visualizações

Andi do Hugging Face demonstra um pipeline de voz totalmente open-source usando Gemma 4 31B

Andi do Hugging Face lançou uma demo totalmente open-source e gratuita que cria um pipeline de interação por voz. O sistema integra Nvidia parakeet, o modelo Gemma 4 31B servido pela Cerebras, e inferência personalizada para Qwen3TTS.