Thinking Machines Lab выпустила Inkling, новую мультимодельную смесь экспертов (MoE), предназначенную для токено-эффективного рассуждения и нативного понимания текстовых, изображенийных и аудио входных данных. Together AI делает модель доступной на своей платформе инференса с нулевым днем доступа.
- Inkling имеет 975B общих параметров с 40B активных параметров на токен и контекстное окно в 1M.
- Архитектура использует относительное внимание, обусловленное запросом, короткие каузальные свертки и общий экспертный сток для эффективного выполнения.
- Поддерживается контролируемое усилие инференса, позволяющее разработчикам регулировать глубину рассуждения, задержку и использование токенов.
- Предварительные оценки показывают сильную производительность в научных рассуждениях, математике, программировании и задачах прогнозирования.
- Модель принимает текстовые, изображенийные и аудио входные данные через унифицированный декодерный стек для генерации текстовых выходов.
Разработчики могут получить доступ к Inkling через Together AI Serverless с OpenAI-совместимыми API, что позволяет создавать мультимодальные приложения без управления инфраструктурой.