media Hugging Face Forums · agora mesmo · open_models

Sfeir lança Esus para descarregar tarefas determinísticas de LLMs pequenos

Traduzido do English → Português (BR)

A Sfeir lançou o Esus, um sistema experimental de geração de código de código aberto que permite a um modelo de 4B gerar aplicações Python utilizáveis ao delegar decisões formalizadas a um núcleo determinístico.

A arquitetura divide as responsabilidades: o LLM interpreta especificações e lida com raciocínio semântico, enquanto o núcleo determinístico constrói a estrutura, gera código previsível, conecta componentes e valida invariantes.
Esta abordagem desloca o foco de fazer modelos pequenos imitarem os maiores para determinar a carga mínima de tomada de decisões necessária para o modelo.
O projeto inclui detalhes de arquitetura publicados, experimentos e resultados de benchmarks.

O sistema visa melhorar a confiabilidade mantendo os elementos probabilísticos limitados a tarefas de raciocínio enquanto garante a integridade estrutural por meio da geração de código determinística.

Importância 1/3 Confiança 1/3 Hugging Face Forums Code generation Local inference

Ler original

Desenvolvedor indie atualiza Hex Judge de Gemma 2 9B para Gemma 4 E4B

Um desenvolvedor indie solo do Japão atualizou o LLM local no jogo comercial Hex Judge de Gemma 2 9B para Gemma 4 E4B. O jogo de investigação de julgamento de bruxas medievais usa diálogos gerados por IA para interações dos jogadores.

github llama.cpp · há 50 d · 22 visualizações

llama.cpp b10271 adiciona diretório de trabalho por conversa e suporte a caminhos do Windows

A versão llama.cpp b10271 introduz um recurso de diretório de trabalho por conversa na UI, permitindo que os usuários definam e naveguem pelos diretórios independentemente para cada sessão de chat.

media Hugging Face Forums · há 62 d · 14 visualizações

Forge gera e compila UIs sandboxed para modelos do Hugging Face no navegador

Amin Musah construiu o Forge, um playground de código aberto no navegador para modelos do Hugging Face que gera dinamicamente interfaces de usuário usando um modelo de código separado. O sistema cria um componente TSX com base nas especificações da tarefa, que o navegador então compila no lado do cliente com esbuild-wasm e executa em um iframe sandboxed.

github llama.cpp · há 4 h · 12 visualizações

llama.cpp b11122 estende a fusão MMVQ GLU e adiciona novas fusões SYCL

O projeto llama.cpp lançou a versão b11122, que inclui atualizações significativas para o backend SYCL. O lançamento estende a fusão MMVQ GLU para suportar tipos de quantização mistos e introduz novas fusões para as operações rms_norm+scale e ssm_conv+silu.

github llama.cpp · há 5 h · 12 visualizações

llama.cpp b11120 oculta símbolos internos do Vulkan para corrigir destruição de estado

O projeto llama.cpp lançou a versão b11120, que corrige um bug crítico no backend do Vulkan ocultando símbolos internos. Essa mudança evita problemas de destruição de estado por duplicate-dlopen que ocorriam quando os símbolos internos eram exportados.