media Hugging Face Forums · há 1 h · open_models

Discussão da comunidade sobre a viabilidade em produção de LLMs específicos do domínio com 7B–14B parâmetros

Traduzido do English → Português (BR)

Um usuário do fórum do Hugging Face investiga se modelos de linguagem grandes (LLMs) pequenos e específicos do domínio, na faixa de 7B a 14B parâmetros, podem substituir efetivamente modelos maiores em ambientes de produção reais.

O autor observa que, embora os LLMs de ponta afirmem que essa abordagem é amplamente adotada e eficaz, engenheiros com experiência em implantação expressam cautela em relação ao raciocínio, consistência e confiabilidade.
Relata-se que até modelos de maior peso aberto como Qwen3.6-27B têm dificuldades com esses aspectos em aplicações do mundo real.
A discussão busca experiências práticas e lições aprendidas de implantações reais, em vez de resultados de benchmarks.

O tópico visa reunir estudos de caso concretos e feedback de usuários para esclarecer a lacuna entre as afirmações teóricas e as realidades da implantação prática para modelos específicos do domínio menores.

Importância 1/3 Confiança 1/3 Hugging Face Forums Retrieval & RAG Training methods

Ler original

ELIZA com Autoencoder Esparsa

Uma nova implementação do chatbot ELIZA utiliza uma arquitetura de autoencoder esparsa para armazenar entradas de conversa em uma camada de memória latente, visando melhorar os métodos tradicionais de correspondência de palavras-chave. O sistema emprega uma estrutura codificador-decodificador T5 com uma camada de memória de 32.768 neurônios, onde entradas semelhantes são ativadas por meio de aprendizado contrastivo.

media Hugging Face Forums · há 7 d

ShinBay-UCTF propõe um arcabouço conceitual para aprendizado contínuo preservador de privacidade e conhecimento comprimido

K7007 apresenta o ShinBay-UCTF, um arcabouço conceitual que aborda limitações em sistemas de IA relacionadas à redundância multilíngue, memória episódica persistente e adaptação contínua. A proposta delineia uma arquitetura unificada composta por três camadas interagentes: Universal Compressed Training Format (UCTF), Memória Episódica Inspirada Biologicamente e Aprendizado Contínuo Orientado pelo Ambiente.

arxiv arXiv cs.CL · há 15 d · 2 visualizações

Supervisão contrafactual melhora o roteamento de busca em LLMs para Gemma e Qwen

Pesquisadores abordam a ineficiência de modelos de linguagem aumentados com busca ao formular um problema de roteamento de busca em nível de instância que decide se evidência externa é necessária para melhorar o sucesso da tarefa. Eles derivam a supervisão comparando os resultados sem busca e com busca forçada para construir um oráculo, que serve tanto como critério de avaliação quanto sinal de aprendizado para treinar políticas por meio de ajuste fino supervisionado e otimização de preferências.

arxiv arXiv cs.CL · há 16 d · 1 visualização

LongCrafter usa síntese guiada por grafo de evidências para melhorar a compreensão de contexto longo

Os autores propõem o LongCrafter, uma estrutura estruturada para sintetizar dados de ajuste fino supervisionado (SFT) com contexto longo que aborda limitações na cobertura de tarefas e fidelidade. Ele acopla uma taxonomia hierárquica de 32 tipos de tarefas com um pipeline fundamentado em evidências para gerar pares instrução-resposta estritamente baseados em trechos de evidência localizados.

arxiv arXiv cs.CL · há 16 d

TR-RAG usa RL com regularização do professor para corrigir deriva linguística no RAG cross-lingual

Pesquisadores propõem o TR-RAG, um método de aprendizado por reforço com regularização do professor que aborda a deriva linguística e o uso não confiável de evidências na geração aumentada por recuperação (RAG) cross-lingual baseada em evidências em inglês. A abordagem acopla a otimização da recompensa com destilação on-policy, usando um professor congelado para fornecer âncoras reverse-KL por prefixo para as respostas amostradas por um estudante compacto.