El artículo presenta Thomson, un modelo de vanguardia de propósito general desarrollado por SovereignAI que demuestra cómo las instituciones pueden alcanzar rendimiento de vanguardia mediante aprendizaje continuo en modelos de peso abierto fácilmente disponibles. Este enfoque utiliza una pila moderna de pre- y post-entrenamiento con salvaguardas para preservar la plasticidad y la estabilidad, permitiendo intervenciones mínimas de alto impacto en los parámetros.
- Thomson compite competitivamente con modelos de vanguardia recientes en tareas agénticas, seguridad, legal, impuestos, multilingüismo e investigación profunda a gran escala.
- Las evaluaciones revelan un patrón de mejoras distintivo en forma de π a través de una amplia gama de capacidades, incluidas aquellas no objetivo explícito.
- El método elimina casi por completo el problema del olvido común en la adaptación de dominios estrechos.
- El enfoque requiere presupuestos de cómputo y personal sustancialmente menores de lo que se suele pensar, haciendo viable la posesión de la pila SovereignAI para más actores.
Al explotar el aprendizaje continuo en lugar de enfoques limitados como el ajuste fino o la ingeniería de prompts, este trabajo argumenta que el rendimiento de vanguardia es alcanzable para una amplia gama de instituciones bajo diversas configuraciones de financiación.