webAI выпустила TwIL-LM, семейство из двух логических вычислителей с 1,7B и 3B параметров, предназначенных для автоформализации на локальном оборудовании. Модели переводят английский текст в логику первого порядка и проверяют корректность заключений; вариант на 3B параметров достигает макросреднего показателя 0,4218 на задачах формальной логики из обучающей области.

  • TwIL-LM3 (3B) представляет собой объединённую модель, полученную путём дообучения SmolLM3-3B, тогда как модель на 1,7B параметров является адаптером PEFT LoRA для SmolLM2-1.7B-Instruct.
  • Обе модели работают локально с квантованными сборками объёмом 1,06 ГБ и 1,78 ГиБ соответственно, требуя всего 4 ГБ видеопамяти.
  • Обучение включало дообучение LoRA с учителем, объединение контрольных точек, интерполяцию WiSE-FT при λ = 0,25 и MGPO по отношению к программному верификатору.
  • TwIL-LM3 лидирует во всех направлениях вплоть до LFM2.5-8B-A1B по шести объективным метрикам, но уступает gpt-oss-120b в среднем по этим шести метрикам (0,4488 против 0,5192).
  • Модель на 3B параметров генерирует самые короткие тексты длиной 482 токена, обеспечивая 32,9 ответов в секунду по сравнению с 4,2 у gpt-oss-120b.

Выпуск позволяет выполнять модели локально в средах, чувствительных к данным, таких как комплаенс и юридические операции, обеспечивая баланс между производительностью в целевой области и сохранением способности к обобщению.