Thinking Machines Lab выпустила Inkling, свою первую полностью доступную семейство базовых моделей с открытыми весами. Позиционируемая как настраиваемая мультимодальная базовая модель, а не флагманская модель, максимизирующая показатели бенчмарков, Inkling поддерживает текстовые, визуальные и аудиовходные данные с нативной мультимодальностью.
- Inkling — это модель Mixture-of-Experts на 975B параметров с 41B активных параметров на токен, лицензированная по Apache 2.0.
- Модель обучена с нуля на примерно 45T токенов и поддерживает длину контекста до 1M в чекпоинтах с открытыми весами.
- Архитектурные особенности включают гибридное скользящее окно внимания, относительное позиционное кодирование, слои коротких сверток и оптимизаторы Muon/AdamC.
- Inkling дебютирует с результатом 41 в Intelligence Index, опережая американские релизы с открытыми весами Nemotron 3 Ultra и Gemma 4.
Релиз предоставляет немедленную поддержку тонкой настройки через Tinker и широкую экосистемную совместимость с инструментами вроде vLLM и Hugging Face.