lab NVIDIA Research · há 15 h · research

FastGen-PDD introduz destilação de decodificação paralela para geração rápida de vídeo e imagem

Traduzido do English → Português (BR)

Pesquisadores introduzem a Destilação de Decodificação Paralela (PDD), um método simplificado baseado em trajetória para acelerar a inferência em modelos de difusão e correspondência de fluxo. Ao contrário das abordagens atuais que dependem de destilação variacional de pontuação difícil de otimizar e perdas adversariais, o PDD prevê múltiplos passos de desruído por avaliação da rede.

Compatível com qualquer modelo pré-treinado e suporta amostragem com diferentes números de avaliações de função (NFE).
Aprende uma representação da velocidade média sem regressar sua derivada usando produtos Jacobiano-vetor ou aproximações por diferenças finitas.
Alcança desempenho de estado da arte no LTX-2.3 Texto-para-Vídeo/Áudio, Wan 14B Texto-para-Vídeo e Qwen-Image Texto-para-Imagem com 4-8 NFE.
Melhora significativamente a diversidade dos vídeos gerados em comparação com métodos existentes.

O PDD oferece uma alternativa escalável para inferência rápida que evita o colapso de modo enquanto mantém a geração de alta qualidade em tarefas de texto-para-vídeo e texto-para-imagem.

Importância 1/3 Confiança 3/3 NVIDIA Research Inference efficiency Video generation

Artigos relacionados

github llama.cpp · há 1 h · 1 visualização Ao vivo

llama.cpp b10984 adiciona suporte CUDA para SUM_ROWS contíguo por linha

O projeto llama.cpp lançou a versão b10984, introduzindo suporte CUDA para operações SUM_ROWS contíguas por linha. Esta atualização também organiza o código para incluir GGML_OP_MEAN para lidar com tensores contíguos por linha por meio de um kernel compartilhado.

github llama.cpp · há 1 h · 1 visualização Ao vivo

llama.cpp b10985 restringe o cache de hash RPC a pesos

O projeto llama.cpp lançou a compilação b10985, que modifica o backend RPC para limitar o armazenamento em cache baseado em hash exclusivamente a tensores de peso. Esta alteração aborda um problema onde os dados de ativação eram desnecessariamente hashados e armazenados, levando ao uso excessivo do disco.

github llama.cpp · há 2 h · 2 visualizações

llama.cpp b10982 adiciona suporte a Flash Attention esparso via Vulkan para DSV4/GLM

O projeto llama.cpp lançou a compilação b10982, que introduz suporte ao Flash Attention esparsivo por meio do backend Vulkan. Esta atualização direciona-se especificamente aos modelos DSV4 e GLM, permitindo que aproveitem mecanismos de atenção esparsa em hardware de GPU compatível.

github llama.cpp · há 3 h · 2 visualizações

llama.cpp b10981 corrige decode com estado para Gemma-4 e otimiza inferência de GPU MoE

O lançamento do llama.cpp b10981 aborda problemas críticos de correção no caminho de decodificação com estado do backend OpenVINO, corrigindo especificamente o suporte para modelos como Gemma-4 que usam tamanhos de cabeça por camada. Também introduz otimizações para inferência de Mixture of Experts (MoE) em GPU e melhora o desempenho por meio de relayouts do estado KV.

github llama.cpp · há 5 h · 1 visualização

llama.cpp adiciona kernels Metal FA para HSK=96, HSV=64 do MiniCPM3

O projeto llama.cpp adicionou suporte ao kernel Flash Attention (FA) para a configuração específica usada pelo MiniCPM3 no Apple Silicon. Esta alteração corrige uma falha onde a flag `-fa auto` abortava devido à falta de instanciação de kernel para o comprimento da chave de atenção 96 e do valor 64.