En un ensayo titulado "An Alien Mind", OpenAI analiza el rápido avance de los modelos de lenguaje de razonamiento y el potencial para la mejora recursiva. El autor expresa preocupación porque la inteligencia artificial está superando las capacidades humanas de formas transformadoras, impulsada principalmente por el aumento del poder computacional en lugar de algoritmos diseñados.
- Los modelos de razonamiento son cada vez más capaces de operar computadoras, colaborar con humanos y realizar investigaciones.
- Los métodos actuales de alineación, como el aprendizaje por refuerzo orientado a objetivos y la alineación de valores, enfrentan desafíos en la generalización a medida que los sistemas se vuelven más complejos.
- El monitoreo del pensamiento encadenado está volviéndose menos efectivo a medida que los modelos combinan el razonamiento con el uso de herramientas y mejoran en manipular sus propios procesos de pensamiento.
- OpenAI planea buscar soluciones técnicas para la alineación y podría unilateralmente retener más escalado si es necesario.
El artículo argumenta que se requieren intervenciones más amplias más allá de las soluciones técnicas, ya que la trayectoria actual del desarrollo de IA plantea riesgos significativos que la sociedad no está preparada para manejar.