arxiv arXiv cs.CL · há 1 h · research

Relatório Técnico do Solar Open 2

Traduzido do English → Português (BR)

O Relatório Técnico do Solar Open 2 apresenta o Solar Open 2, um modelo de linguagem Mixture-of-Experts de 250B-A15B projetado para tarefas agênticas de longo prazo. Ele alcança uma janela de contexto de 1M de tokens por meio de uma pilha de atenção híbrida e é treinado usando inicialização eficiente a partir do Solar Open 1 e dados de alto valor curados.

O modelo utiliza um mecanismo de atenção híbrido com uma camada softmax entre cada três camadas de atenção linear, empregando nenhum codificador posicional e uma regra delta com gating estendida para autovalores negativos.
A eficiência no treinamento é alcançada inicializando a partir do esqueleto compartilhado do Solar Open 1 e refinando um pool de dados de 20T em uma mistura de 10T por meio de curadoria consciente de qualidade e raridade.
As habilidades do agente são consolidadas a partir de doze especialistas de domínio usando Distilação On-Policy Multi-professor (MOPD).
O Solar Open 2 lidera modelos abertos de peso comparável no MMLU-Pro, LiveCodeBench e na suíte APEX-Agents, mantendo-se competitivo com DeepSeek-V4-Flash e MiMo-V2.5.
Nos benchmarks coreanos, registra a maior média entre os modelos comparados e é competitivo com o DeepSeek-V4-Pro com menos de um sexto do seu tamanho.

O relatório destaca a capacidade do Solar Open 2 de manter trajetórias inteiras do agente em um único contexto enquanto mantém alto desempenho nos benchmarks em inglês e coreano.

Importância 2/3 arXiv cs.CL Upstage AI agents Research paper

Artigos relacionados

media r/LocalLLaMA · há 19 h · 5 visualizações

Upstage lança Solar Open 2, um modelo MoE de 250B parâmetros para casos de uso agênticos

A Upstage lançou o Solar Open 2, um modelo de linguagem grande de pesos abertos com 250 bilhões de parâmetros, projetado para fluxos de trabalho agênticos como produtividade de escritório e programação. O modelo utiliza uma arquitetura de Mixture-of-Experts com Hybrid-Attention que ativa apenas 15 bilhões de parâmetros por token para oferecer inferência eficiente.

media Hugging Face Forums · há 1 d

SEMA explora arquitetura de IA não transformadora usando Arquitetura de Símbolos Vetoriais

SEMA é uma arquitetura experimental de IA que investiga se a compreensão e o raciocínio linguístico podem emergir de uma estrutura semântica explícita em vez da previsão do próximo token. Ela serve como um sistema de raciocínio baseado em instâncias não paramétrico, utilizando Arquitetura de Símbolos Vetoriais (VSA/HDC) sobre memória endereçável por conteúdo.

arxiv arXiv cs.AI · há 6 d

HealthClaw: agente de código aberto com memória autoevolutiva para gestão longitudinal da saúde pessoal

Pesquisadores desenvolveram o HealthClaw, uma arquitetura de agente de código aberto projetada para atualizar o suporte à medida que as rotinas, preferências, medições e riscos de uma pessoa mudam ao longo do tempo. Ele separa regras de segurança compartilhadas e conhecimento médico da memória longitudinal privada contendo fatos do perfil, procedimentos reutilizáveis e rastros episódicos.

arxiv arXiv cs.LG · há 7 d

TRACE melhora o uso de ferramentas por agentes de longo prazo via estimativa de crédito por turno

Os autores propõem o TRACE (Turn-level Reward Assignment via Credit Estimation), um método de atribuição de crédito denso para aprendizado por reforço agêntico que aborda a esparsidade e a alta variância das recompensas de resultado em tarefas de longo prazo. Ao representar os rollouts como transições de estado nas fronteiras de chamadas de ferramentas e derivar recompensas por ação a partir de valores de estado com log-ratio, o TRACE permite treinamento eficaz sem críticos adicionais ou estágios de ajuste fino supervisionado.

arxiv arXiv cs.AI · há 7 d

Modelo DVM-HALL e métrica NHAS abordam a lealdade no comércio autônomo

O artigo apresenta o modelo Dynamic Verifiable Multi-Agent Human Agentic Loyalty Loop (DVM-HALL) para abordar como os paradigmas tradicionais de lealdade do cliente falham quando agentes de IA executam decisões de compra de forma autônoma. Ele propõe um framework onde a escolha da marca é determinada pela equidade emocional humana, utilidade agêntica, confiança calibrada e riscos de execução verificável em ambientes de finanças descentralizadas.