media Hugging Face Forums · há 2 h · open_models

Qxern-v6 usa tokens latentes e sidecar AST para transferência de código mais rápida e precisa

Traduzido do English → Português (BR)

O sistema Qxern-v6 permite que dois LLMs se comuniquem por meio de 32 tokens latentes comprimidos, preservando a exatidão dos símbolos por meio de um sidecar de Árvore Sintática Abstrata (AST) determinístico adaptativo. Criado por um desenvolvedor de 15 anos, a arquitetura usa Qwen2.5-Coder-1.5B para comprimir o código e um decodificador congelado Qwen3.5-0.8B para interpretá-lo sem ver o texto bruto.

A precisão do nome da função atinge 0,87, recuperando-se de 0,00 em modelos latentes puros.
A precisão da contagem de parâmetros atinge 0,93, superando a linha de base Text Relay em +0,30.
A latência mediana cai para 511 ms, alcançando uma aceleração de 2,4× em relação aos 1222 ms do relay de texto.
O sistema combina latentes semânticos com ~30 tokens de dados AST determinísticos por meio de um roteador adaptativo.

Esta abordagem híbrida demonstra que latentes contínuos podem transportar eficientemente a semântica do código em menor latência, enquanto o sidecar restaura a precisão simbólica necessária sem retreinar o decodificador.

Importância 1/3 Confiança 1/3 Hugging Face Forums Code generation Inference efficiency

Artigos relacionados

arxiv arXiv cs.CL · há 19 d

Estudo de faturamento do Claude Code mostra que a redução de contexto não reduz custos

Um estudo de 2.848 execuções do Claude Code faturadas pelo provedor revela que reduzir o contexto recuperado ou a saída de ferramentas não reduz confiavelmente o custo real faturado dos agentes de codificação. A pesquisa desafia a métrica comum de remoção de texto analisando uma campanha de 2.908 execuções em três modelos e sete repositórios.

media r/LocalLLaMA · há 21 d · 2 visualizações

Usuário executa Qwen3.6 35B A3B com 20GB de VRAM + 64GB de RAM para codificação local

Um usuário do Reddit compartilha sua experiência executando o modelo Qwen3.6 35B A3B localmente em um laptop equipado com uma eGPU 7900XT de 20GB e 64GB de RAM DDR5.

media r/LocalLLaMA · há 23 d

Qwen3.6 35B-A3B gera simulador de voo em um único prompt

Um usuário do Reddit demonstrou o Qwen3.6 35B-A3B gerando um simulador de voo completo e relaxante com montanhas, nuvens e terreno procedural infinito a partir de um único prompt.

media Hugging Face Forums · há 24 d

Usuário executa Qwen3.6-27B-NVFP4 no DGX Spark com 120GB VRAM

Um usuário relata estar usando o modelo nvidia/Qwen3.6-27B-NVFP4 como ferramenta diária para tarefas de codificação agêntica em um sistema NVIDIA DGX Spark. A configuração utiliza quantização compressed-tensors e dtype fp8 kv-cache para operar dentro das restrições de memória do hardware. As configurações-chave incluem um comprimento máximo do modelo de 131072, decodificação especulativa via MTP com 3 tokens e escolha automática de ferramentas habilitada.

media r/LocalLLaMA · há 25 d

Desenvolvedor testa o desempenho de código do Mistral Medium 3.5 (128b dense)

Um desenvolvedor compartilha suas primeiras impressões ao usar uma versão quantizada em 3 bits do modelo Mistral Medium 3.5 para tarefas de codificação. O usuário relata que o modelo identificou problemas em seu projeto que seu driver diário anterior havia perdido, descrevendo seu desempenho como "realmente bom", apesar de ser mais lento que os modelos Mixture-of-Experts (MoE).