Swiss AI ha lanzado Apertus 1.5, una familia de modelos de lenguaje de 8B y 70B parámetros que introducen capacidades multimodales y una nueva función de razonamiento. La actualización implica un preentrenamiento continuo sobre una mezcla multimodal adicional de 4T tokens para el modelo de 8B y 2T tokens para el modelo de 70B.

  • Soporta entradas multimodales que incluyen imágenes, audio y texto para generar respuestas de texto.
  • Introduce un "modo de razonamiento" que permite a los modelos razonar sobre la entrada antes de generar respuestas.
  • Aumenta la longitud de contexto predeterminada a 262.144 tokens, un aumento cuatro veces mayor en comparación con Apertus 1.0.
  • Mejora las capacidades de seguimiento de instrucciones y uso de herramientas mediante una receta de postentrenamiento mejorada.
  • Mantiene pesos, datos y detalles de entrenamiento completamente abiertos mientras soporta una amplia gama de idiomas.

El lanzamiento tiene como objetivo avanzar en el estado del AI multilingüe, multimodal y transparente proporcionando a los desarrolladores opciones de interacción versátiles y un rendimiento mejorado en tareas de razonamiento.