arxiv Moonshot AI (arXiv) · hace 555 d

Simple Scaling Lab lanza s1-32B con escalado en tiempo de prueba mediante forzamiento de presupuesto

Traducido del English → Español

El laboratorio Simple Scaling presenta s1-32B, un modelo de razonamiento que logra un rendimiento sólido mediante ajuste fino supervisado en un conjunto de datos curado de 1.000 muestras y una técnica llamada forzamiento de presupuesto (budget forcing). Este enfoque controla el cómputo en tiempo de prueba ya sea terminando el proceso de pensamiento del modelo o añadiendo "Wait" para extenderlo, permitiendo que el modelo verifique sus respuestas.

El conjunto de datos s1K contiene 1.000 preguntas emparejadas con trazos de razonamiento destilados del modelo experimental Gemini Thinking de Google, seleccionados por dificultad, diversidad y calidad.
El forzamiento de presupuesto permite un control preciso sobre el cómputo en tiempo de prueba; suprimir el token de fin de pensamiento y añadir "Wait" fomenta una mayor exploración de la ruta de solución.
s1-32B supera a o1-preview de OpenAI en preguntas de matemáticas competitivas hasta un 27% en los benchmarks MATH y AIME24.
Escalar el cómputo en tiempo de prueba permite al modelo extrapolar su rendimiento del 50% al 57% en AIME24.

Los autores demuestran que el ajuste fino supervisado simple combinado con un control directo sobre la duración del pensamiento es un método altamente efectivo y eficiente en muestras para lograr escalado en tiempo de prueba y sólidas capacidades de razonamiento.

Importancia 2/3 Supera un benchmark de un laboratorio puntero Moonshot AI (arXiv) DeepSeek Google DeepMind Reasoning models Research paper

Benchmarks

Benchmark	Modelo	Puntuación
AIME 2024	s1-32B	57%

Artículos relacionados

arxiv arXiv cs.AI · hace 51 d

Lean como Oráculo de Recompensa Verificado por Proceso en RL para Demostración de Teoremas

Este trabajo muestra que Lean puede servir como un oráculo simbólico de proceso, proporcionando retroalimentación fina y verificada durante el aprendizaje por refuerzo. Al analizar los intentos de demostración en secuencias de tácticas y usar la elaboración de Lean para marcar pasos válidos y primeros fallos, el sistema genera señales de recompensa densas basadas en teoría de tipos. Los experimentos demuestran que la supervisión a nivel de táctica supera a los métodos solo de resultado en benchmarks como MiniF2F y ProofNet, destacando el papel de Lean tanto como evaluador como fuente de recompensa de entrenamiento.

arxiv arXiv cs.LG · hace 52 d

Destacado: Uso de GPUs Spot para acelerar el post-entrenamiento RL de DiT

Spotlight permite el post-entrenamiento RL de DiT aprovechando GPUs spot inactivas, reduciendo los costos entre 1.4 y 6.4 veces mientras se logra una calidad de imagen superior. Utiliza pesos de modelo obsoletos en la exploración y reconfigura el paralelismo de secuencias sobre la marcha, permitiendo un uso eficiente de las GPUs sin interrumpir los pipelines de entrenamiento.

arxiv Moonshot AI (arXiv) · hace 916 d

DeepSeekMath 7B alcanza 51,7% en el benchmark MATH usando GRPO y datos curados

El artículo de DeepSeekMath presenta un modelo de lenguaje abierto de 7B parámetros diseñado para mejorar las capacidades de razonamiento matemático. El modelo se crea continuando el preentrenamiento de DeepSeek-Coder-Base-v1.5 con 120B tokens relacionados con matemáticas de Common Crawl, junto con datos de lenguaje natural y código.

lab Google DeepMind Blog · hace 3 d · 16 vistas

Google DeepMind abre el código fuente del modelo de IA WeatherNext para la predicción de ciclones

Google DeepMind y Google Research han abierto el código fuente de los modelos de IA WeatherNext 2 y WeatherNext Cyclones, que lograron una precisión de última generación en la predicción de trayectorias, intensidad y estructura del viento de ciclones tropicales. Publicado en Nature, el trabajo demuestra que estos modelos proporcionan a los pronosticadores un día adicional de precisión predictiva en comparación con sistemas anteriores.

media Don't Worry About the Vase · hace 6 d · 5 vistas

Astra de OpenAI resuelve 10 grandes problemas abiertos de matemáticas

OpenAI ha publicado los resultados de su modelo interno no lanzado, Astra, que resolvió con éxito diez problemas importantes y abiertos en matemáticas. Las soluciones fueron generadas por el modelo y posteriormente formalizadas en certificados Lean por investigadores humanos.