arxiv Moonshot AI (arXiv) · hace 550 d

GAIR-NLP lanza LIMO, logrando un fuerte razonamiento matemático con 817 muestras

Traducido del English → Español

GAIR-NLP presenta LIMO, un modelo que demuestra que el razonamiento matemático complejo puede ser efectivamente elicidado utilizando solo 817 muestras de entrenamiento curadas. Este enfoque desafía la suposición convencional de que el ajuste fino supervisado requiere conjuntos de datos masivos para evitar la memorización.

LIMO alcanza una precisión del 57.1% en el benchmark AIME y del 94.8% en MATH.
El modelo utiliza solo el 1% de los datos de entrenamiento requeridos por modelos SFT anteriores fuertes.
Demuestra una generalización fuera de distribución excepcional, mejorando el rendimiento en un 40.5% absoluto a través de 10 benchmarks diversos.
Los resultados superan a modelos entrenados con 100 veces más datos, apoyando la "Hipótesis del Razonamiento Menos-Es-Más".

Los autores proponen que las capacidades sofisticadas de razonamiento emergen cuando los modelos base aprovechan el conocimiento preentrenado rico mediante plantillas cognitivas mínimas y precisamente orquestadas.

Importancia 2/3 Moonshot AI (arXiv) Zhipu AI Reasoning models Research paper

Benchmarks

Benchmark	Modelo	Puntuación
AIME 2024	LIMO	57.1%
MATH-500	LIMO	94.8%

Artículos relacionados

arxiv arXiv cs.CL · hace 30 d

La sonda de representaciones internas de Eternis-Forecaster 8B revela que mejoran la calibración y exponen problemas de fidelidad en el razonamiento encadenado

Los investigadores investigaron si las representaciones internas en modelos de lenguaje grandes proporcionan una ventana más directa hacia la calibración y la fidelidad que el razonamiento encadenado (CoT). Trabajando con Eternis-Forecaster 8B en OpenForesight, entrenaron sondas de agrupamiento de representaciones en activaciones intermedias que lograron una calibración sustancialmente mejor en comparación con las salidas estándar del modelo.

media Don't Worry About the Vase · hace 5 d · 5 vistas

Astra de OpenAI resuelve 10 grandes problemas abiertos de matemáticas

OpenAI ha publicado los resultados de su modelo interno no lanzado, Astra, que resolvió con éxito diez problemas importantes y abiertos en matemáticas. Las soluciones fueron generadas por el modelo y posteriormente formalizadas en certificados Lean por investigadores humanos.

blog Simon Willison · hace 8 d · 12 vistas

El modelo Astra de OpenAI resuelve diez problemas matemáticos de larga data usando GPT-5.6 Sol

OpenAI ha publicado soluciones a diez problemas de matemáticas y ciencias de la computación teórica que no habían visto progreso en sus resultados principales durante al menos una década, utilizando una versión interna de su próximo modelo principal, Astra.

arxiv arXiv cs.CL · hace 12 d · 2 vistas

PIVOT comparte escaneos de prefijo entre grupos de consultas para acelerar la atención dispersa a nivel de token

PIVOT (Proxy Indexing Via One full-prefix Traversal) es una solución sin entrenamiento y de inserción directa para el indexador DeepSeek Sparse Attention (DSA) que reduce la redundancia computacional compartiendo un solo escaneo de prefijo entre un grupo de consultas cercanas. En lugar de puntuar cada token precedente para cada consulta individualmente, PIVOT agrega el grupo en una única consulta proxy para obtener un conjunto candidato, del cual se seleccionan los top-k tokens para cada consulta.

arxiv arXiv cs.CL · hace 12 d

El marco Zing mejora la inteligencia social de los LLM mediante el benchmark SoMBench y la fundamentación Actio

El informe presenta Zing, un marco integrado diseñado para mejorar la inteligencia social de los modelos de lenguaje grandes mediante la medición, internalización y fundamentación de las capacidades sociales. Los autores presentan SoMBench, un benchmark basado en psicología que abarca 17 dimensiones secundarias y 3.481 instancias verificadas por expertos, el cual revela que los LLM actuales tienen un margen significativo de mejora, sin que ningún modelo alcance un rendimiento cercano al máximo.