A webAI lançou o TwIL-LM, uma família de dois modelos de raciocínio em lógica formal com 1.7B e 3B de parâmetros, projetada para autoformalização em hardware local. Os modelos traduzem inglês para lógica de primeira ordem e verificam a validade das conclusões, com a variante de 3B alcançando uma pontuação macro gate de 0.4218 em tarefas de lógica formal dentro do domínio.

  • O TwIL-LM3 (3B) é um fine-tune fundido do SmolLM3-3B, enquanto o modelo de 1.7B é um adaptador PEFT LoRA para o SmolLM2-1.7B-Instruct.
  • Ambos os modelos rodam localmente com versões quantizadas de 1.06 GB e 1.78 GiB respectivamente, exigindo apenas 4 GB de VRAM.
  • O treinamento envolveu fine-tuning supervisionado por LoRA, fusão de checkpoints, interpolação WiSE-FT em λ = 0.25 e MGPO contra um verificador programático.
  • O TwIL-LM3 lidera todos os braços até o LFM2.5-8B-A1B em seis faixas objetivas, mas fica atrás do gpt-oss-120b na média das seis faixas (0.4488 contra 0.5192).
  • O modelo de 3B produz as gerações mais curtas com 482 tokens, gerando 32.9 respostas por segundo em comparação com as 4.2 do gpt-oss-120b.

O lançamento permite a execução local para ambientes sensíveis a dados, como operações de conformidade e jurídicas, oferecendo um equilíbrio entre desempenho dentro do domínio e retenção de capacidade fora do domínio.