Thinking Machines Lab telah meluncurkan Inkling, keluarga model fondasi berbobot terbuka yang sepenuhnya dirilis. Diposisikan sebagai model dasar multimodal yang dapat dikustomisasi alih-alih model unggulan yang memaksimalkan benchmark, Inkling mendukung input teks, gambar, dan audio dengan multimodalitas asli.
- Inkling adalah model Mixture-of-Experts dengan 975B parameter dan 41B parameter aktif per token, dilisensikan di bawah Apache 2.0.
- Model ini dilatih dari awal pada sekitar 45T token dan mendukung panjang konteks hingga 1M dalam checkpoint berbobot terbuka.
- Fitur arsitektur mencakup perhatian jendela geser hibrida, pengkodean posisi relatif, lapisan konvolusi pendek, dan optimizer Muon/AdamC.
- Inkling debut dengan skor 41 pada Intelligence Index, memimpin rilis berbobot terbuka AS di depan Nemotron 3 Ultra dan Gemma 4.
Rilis ini menyediakan dukungan fine-tuning langsung melalui Tinker dan kompatibilitas ekosistem yang luas dengan alat seperti vLLM dan Hugging Face.