webAI ha lanzado TwIL-LM, una familia de dos razonadores de lógica formal con 1.7B y 3B de parámetros diseñados para autoformalización en hardware local. Los modelos traducen inglés a lógica de primer orden y verifican la validez de las conclusiones, con la variante de 3B logrando un puntaje macro gate de 0.4218 en tareas de lógica formal dentro del dominio.

  • TwIL-LM3 (3B) es un ajuste fino fusionado de SmolLM3-3B, mientras que el modelo de 1.7B es un adaptador PEFT LoRA para SmolLM2-1.7B-Instruct.
  • Ambos modelos se ejecutan localmente con compilaciones cuantizadas de 1.06 GB y 1.78 GiB respectivamente, requiriendo solo 4 GB de VRAM.
  • El entrenamiento involucró ajuste fino supervisado LoRA, fusión de checkpoints, interpolación WiSE-FT en λ = 0.25 y MGPO contra un verificador programático.
  • TwIL-LM3 lidera todos los brazos hasta LFM2.5-8B-A1B en seis carriles objetivos pero queda por detrás de gpt-oss-120b en el promedio de seis carriles (0.4488 vs 0.5192).
  • El modelo de 3B produce las generaciones más cortas con 482 tokens, generando 32.9 respuestas por segundo en comparación con las 4.2 de gpt-oss-120b.

El lanzamiento permite la ejecución local para entornos sensibles a los datos como operaciones de cumplimiento y legales, ofreciendo un equilibrio entre el rendimiento dentro del dominio y la retención de capacidad fuera del dominio.