A OpenAI está oferecendo um programa de bolsas de US$ 5 milhões para apoiar pesquisas independentes sobre os efeitos da IA generativa no desenvolvimento, bem-estar e segurança dos adolescentes.
A iniciativa convida pesquisadores a se candidatarem para estudar como as tecnologias de IA generativa impactam os adolescentes.
A OpenAI afirma que seu novo modelo, GPT-6 Astra, é o mais inteligente e alinhado disponível no mundo, embora críticos questionem a definição de alinhamento e a gravidade dos problemas de monitorabilidade. O artigo destaca que o treinamento do Astra começou em 1º de setembro e terminou em 5 de setembro, com uma enxame de 10.000 agentes concorrentes formados durante essa curta janela.
A OpenAI publicou um post no blog afirmando que seus agentes internos resolveram o problema da existência e suavidade de Navier–Stokes, um dos sete Problemas do Prêmio Millennium. A resolução foi alcançada aproximadamente 88 horas após a equipe iniciar o esforço em 1º de setembro, seguindo rumores de que os matemáticos Tristan Buckmaster e Levent Alpöge também haviam encontrado uma solução.
A OpenAI reconhece que seu novo modelo Astra é significativamente mais difícil de monitorar do que as iterações anteriores, marcando um declínio na eficácia do monitoramento do Pensamento em Cadeia (CoT). Essa tendência sugere que, à medida que as capacidades do modelo aumentam, a capacidade de detectar desalinhamento por meio da análise CoT diminui, potencialmente tornando os sistemas de monitoramento atuais pouco confiáveis dentro de um ano.
O cientista-chefe da OpenAI, Jakub Pachocki, publicou um ensaio alertando que máquinas significativamente mais inteligentes que os humanos estão chegando dentro de nossa vida útil, impulsionadas por uma forte expectativa de progresso sustentado rumo à melhoria recursiva autônoma (RSI). Ele argumenta que as técnicas atuais de alinhamento são inadequadas e que tecnologias de monitoramento como Chain of Thought (CoT) estão perdendo eficácia, exigindo tanto soluções técnicas quanto coordenação internacional mais ampla.
Anthropic's Claude criou com sucesso a primeira demonstração completa verificada por computador do Último Teorema de Fermat em 11 dias usando Lean, enquanto a OpenAI anunciou planos para desenvolver um investigador de IA automatizado até março de 2028.
Usamos cookies para medir o tráfego e melhorar o site. Você pode aceitar ou recusar os cookies de análise. Política de privacidade