Швейцарская компания по ИИ выпустила Apertus 1.5, семейство языковых моделей на 8B и 70B параметров, которые вводят мультимодальные возможности и новую функцию рассуждений. Обновление включает продолжение предварительного обучения на дополнительном мультимодальном наборе из 4T токенов для модели 8B и 2T токенов для модели 70B.
- Поддерживает мультимодальные входные данные, включая изображения, аудио и текст, для генерации текстовых ответов.
- Вводит "режим размышлений", позволяющий моделям рассуждать над входными данными перед генерацией ответов.
- Увеличивает длину контекста по умолчанию до 262,144 токенов, что в четыре раза больше, чем у Apertus 1.0.
- Улучшает способность следовать инструкциям и использовать инструменты благодаря улучшенному рецепту постобучения.
- Сохраняет полностью открытые веса, данные и детали обучения при поддержке широкого спектра языков.
Выпуск направлен на продвижение состояния многоязычного, мультимодального и прозрачного ИИ, предоставляя разработчикам универсальные варианты взаимодействия и улучшенную производительность в задачах рассуждений.