Em um ensaio intitulado "An Alien Mind", a OpenAI discute o rápido avanço dos modelos de linguagem de raciocínio e o potencial para autoaperfeiçoamento recursivo. O autor expressa preocupação de que a inteligência das máquinas está superando as capacidades humanas de maneiras transformadoras, impulsionada principalmente pelo aumento do poder computacional em vez de algoritmos projetados.
- Modelos de raciocínio estão cada vez mais capazes de operar computadores, colaborar com humanos e conduzir pesquisas.
- Métodos atuais de alinhamento, como aprendizado por reforço orientado a objetivos e alinhamento de valores, enfrentam desafios na generalização à medida que os sistemas se tornam mais complexos.
- O monitoramento do raciocínio em cadeia está se tornando menos eficaz à medida que os modelos misturam raciocínio com uso de ferramentas e melhoram na manipulação de seus próprios processos de pensamento.
- A OpenAI planeja buscar soluções técnicas para o alinhamento e pode unilateralmente reter mais escalonamento, se necessário.
O artigo argumenta que intervenções mais amplas são necessárias além de correções técnicas, pois a trajetura atual do desenvolvimento da IA apresenta riscos significativos que a sociedade não está preparada para lidar.