SupraWeather-Nano-Preview: Un pequeño FT-Transformer para clasificación meteorológica
SupraLabs ha lanzado SupraWeather-Nano, un modelo de vista previa diseñado para clasificar fenómenos meteorológicos a partir de datos meteorológicos tabulares en bruto. La arquitectura utiliza un Tokenizador de Características dedicado y un Codificador Transformer, donde cada característica de entrada recibe su propio token aprendido que es agregado por un token CLS antes de procesarse a través de una pila transformer pequeña. Este enfoque elimina la necesidad de entradas de texto o prompts del sistema, permitiendo a los usuarios ingresar directamente valores numéricos para recibir un resultado de clasificación. El modelo acepta nueve entradas específicas: temperatura, humedad, presión, tendencia de presión, velocidad del viento, dirección del viento, altitud, mes y masa de aire. Fue entrenado completamente en un conjunto de datos sintético generado por métodos basados en reglas que contenía 120.000 muestras. SupraLabs señala que esto es un experimento de arquitectura más que una herramienta para pronósticos del mundo real, con cinco de seis pruebas de estrés internas aprobadas exitosamente.