OpenAI ofrece un programa de subvenciones de 5 millones de dólares para apoyar investigaciones independientes sobre los efectos de la IA generativa en el desarrollo, el bienestar y la seguridad de los adolescentes.
La iniciativa invita a investigadores a presentar solicitudes para estudiar cómo las tecnologías de IA generativa impactan a los adolescentes.
OpenAI afirma que su nuevo modelo, GPT-6 Astra, es el más inteligente y alineado disponible en el mundo, aunque los críticos cuestionan la definición de alineación y la gravedad de los problemas de monitorización. El artículo destaca que el entrenamiento de Astra comenzó el 1 de septiembre y terminó para el 5 de septiembre, con una nube de 10.000 agentes concurrentes formados durante esta breve ventana.
OpenAI ha publicado una entrada de blog en la que afirma que sus agentes internos resolvieron el problema de la existencia y suavidad de Navier–Stokes, uno de los siete Problemas del Milenio. La resolución se logró aproximadamente 88 horas después de que el equipo iniciara el esfuerzo el 1 de septiembre, tras rumores de que los matemáticos Tristan Buckmaster y Levent Alpöge también habían encontrado una solución.
OpenAI reconoce que su nuevo modelo Astra es significativamente más difícil de monitorear que las iteraciones anteriores, marcando un declive en la efectividad del monitoreo del Pensamiento en Cadena (CoT). Esta tendencia sugiere que a medida que aumentan las capacidades del modelo, la capacidad de detectar desalineación a través del análisis CoT disminuye, potencialmente haciendo que los sistemas de monitoreo actuales sean poco confiables dentro de un año.
El científico jefe de OpenAI, Jakub Pachocki, ha publicado un ensayo advirtiendo que las máquinas significativamente más inteligentes que los humanos están llegando dentro de nuestra vida, impulsadas por una fuerte expectativa de progreso sostenido hacia la mejora recursiva del autoconocimiento (RSI). Argumenta que las técnicas actuales de alineación son inadecuadas y que las tecnologías de supervisión como Chain of Thought (CoT) están perdiendo efectividad, lo que requiere tanto soluciones técnicas como una coordinación internacional más amplia.
Anthropic's Claude creó exitosamente la primera demostración completa verificada por computadora del Último Teorema de Fermat en 11 días usando Lean, mientras que OpenAI anunció planes para desarrollar un investigador de IA automatizado para marzo de 2028.
Usamos cookies para medir el tráfico y mejorar el sitio. Puedes aceptar o rechazar las cookies de analítica. Política de privacidad