lab Hugging Face Blog · agora mesmo · releases

O ajuste fino do LFM2.5-350M com GRPO melhora a conformidade do esquema IFStruct

Traduzido do English → Português (BR)

Um guia demonstra o ajuste fino do modelo Liquid AI LFM2.5-350M usando Otimização Relativa de Política em Grupo (GRPO) para melhorar a geração de saída estruturada. O processo envolve treinar em um subconjunto do conjunto de dados NVIDIA Nemotron e avaliar o desempenho por meio da benchmark IFStruct.

A avaliação inicial do modelo base LFM2.5-350M resultou em uma taxa de aprovação de 22,6% na benchmark IFStruct.
O treinamento utilizou aproximadamente 500 amostras com aumento de dados para se alinhar à distribuição de avaliação.
As funções de recompensa foram combinadas para pontuar o formato JSON, a precisão da contagem de campos e a validação do esquema.
O modelo ajustado fino alcançou uma taxa de aprovação geral de 29,7%, representando uma melhoria significativa em relação à linha de base.

Os resultados mostram que o ajuste fino específico de tarefas para modelos menores pode melhorar o desempenho e igualar ao de modelos muito maiores.

Importância 1/3 Confiança 1/3 Hugging Face Blog Local inference Training methods

Ler original

OpenEnv reproduz modelo de pintura em aquarela de Surya Narreddi usando TRL

Um engenheiro abriu o código-fonte de uma reprodução do projeto viral de Surya Narreddi, que treina um modelo de codificação para pintar aquarelas usando JavaScript e aprendizado por reforço. A implementação utiliza a biblioteca TRL e OpenEnv para criar um pipeline de ponta a ponta no Hugging Face para treinamento, pontuação e inferência.

github llama.cpp · há 8 h · 1 visualização

ggml-org lança llama.cpp b10774 com correção de cache KV para fine-tuning

O projeto ggml-org lançou a versão b10774 do llama.cpp, que inclui uma correção para o problema de falta de cache KV no módulo de fine-tuning.

github llama.cpp · há 16 h · 7 visualizações

llama.cpp b10763 habilita preserve_reasoning por padrão

O projeto llama.cpp lançou a compilação b10763, que altera o comportamento padrão do argumento de palavra-chave `preserve_reasoning` do modelo de chat. O servidor agora registra o estado efetivo deste kwarg e emite um aviso quando ele está habilitado por padrão em modelos que o suportam.

github llama.cpp · há 23 h · 1 visualização

llama.cpp b10760 corrige estabilidade de inferência do Qwen3-tts-0.6b

O projeto llama.cpp lançou a compilação b10760, que inclui correções específicas para o modelo Qwen3-tts-0.6B para prevenir instabilidade numérica durante a inferência.

media MarkTechPost · há 1 d · 4 visualizações

Perplexity lança computação híbrida no Mac com controle de PII no dispositivo

A Perplexity lançou um recurso de computação híbrida para Mac que divide tarefas agênticas entre modelos de fronteira na nuvem e modelos locais, utilizando uma porta de privacidade no dispositivo para lidar com dados sensíveis. Isso permite que os usuários aproveitem o raciocínio poderoso da nuvem enquanto mantêm arquivos privados, como documentos de negócios ou registros de clientes, estritamente em seu hardware.