El Thinking Machines Lab de Mira Murati ha lanzado Inkling, su primer modelo multimodal con pesos abiertos. El modelo es un transformador Mixture-of-Experts con 975B parámetros totales y 41B parámetros activos, entrenado con 45 billones de tokens de texto, imágenes, audio y video.
- Licenciado bajo Apache-2.0, Inkling se posiciona como un modelo base sólido para el ajuste fino a través de la plataforma Tinker del laboratorio, en lugar de un modelo de inferencia de vanguardia.
- Una variante más pequeña, Inkling-Small (276B total, 12B activos), está actualmente en pruebas con pesos que se liberarán al completarse.
- La documentación de los datos de entrenamiento nota el uso de contenido de dominio público y datos públicamente disponibles de internet abierto y terceros.
El lanzamiento tiene como objetivo proporcionar un contendiente viable basado en EE. UU. para el ecosistema de pesos abiertos, ofreciendo capacidades multimodales y pensamiento eficiente para la personalización.