Tema · Policy & regulation
lab OpenAI News · há 7 d · 7 visualizações

Sam Altman insta Conselho de Segurança da ONU sobre segurança de IA e cooperação internacional

O CEO da OpenAI, Sam Altman, dirigiu-se ao Conselho de Segurança das Nações Unidas, delineando a posição da OpenAI sobre a segurança da inteligência artificial e a necessidade de estruturas globais de governança. Ele enfatizou que a IA deve permanecer sob controle humano para evitar a concentração de poder e garantir supervisão democrática.

lab OpenAI News · há 2 d · 2 visualizações

Instituto Lenfest amplia bolsa de estudos em IA com US$ 5 milhões da OpenAI

O Instituto Lenfest para o Jornalismo anunciou a próxima fase de seu Programa Colaborativo e de Bolsas em IA, garantindo um novo compromisso de US$ 5 milhões da OpenAI, além de até US$ 5 milhões em créditos de software. Essa expansão se baseia na fase piloto de dois anos do programa, que inseriu engenheiros de IA em 11 grandes organizações de notícias americanas para impulsionar a inovação e a adoção responsável de tecnologia.

lab OpenAI News · há 20 d · 38 visualizações

OpenAI amplia acesso gratuito ao GPT-6 Astra para todos os níveis do governo dos EUA

A OpenAI e a Administração de Serviços Gerais (GSA) dos EUA anunciaram um acordo multianual que fornece aos governos federal, estadual, local e tribal acesso gratuito às ferramentas da OpenAI, incluindo o GPT‑6 Astra. O acordo elimina a taxa de licença mensal padrão de $15 por usuário e oferece 50% de desconto nos custos de uso para organizações do setor público elegíveis.

media MarkTechPost · há 17 d · 40 visualizações

Anthropic propõe plano 'Pace the Frontier' com avaliadores embutidos

Em 12 de setembro de 2026, o CEO da Anthropic, Dario Amodei, publicou um ensaio intitulado 'We Must Pace the Frontier', pedindo uma desaceleração nas melhorias das capacidades de IA. A proposta inclui um plano em três etapas: estabelecer "avaliadores embutidos" de terceiros com acesso ao nível de funcionário aos pipelines de treinamento, coordenar padrões de segurança entre laboratórios de fronteira e buscar acordos globais sobre limites de IA.

media Don't Worry About the Vase · há 16 d · 33 visualizações

Dario Amodei pede ritmo na fronteira da IA; Anthropic se compromete com avaliadores integrados

Dario Amodei publicou um ensaio intitulado "Devemos Ritmar a Fronteira", argumentando que a taxa de melhoria das capacidades da IA deve ser desacelerada para permitir o trabalho necessário de alinhamento e segurança. Ele propõe três medidas, comprometendo-se unilateralmente com a primeira: a adoção de avaliadores integrados de terceiros.

media Don't Worry About the Vase · há 19 d · 32 visualizações

Jacob Coxon renuncia da Anthropic alertando sobre risco iminente de extinção humana

O ex-pesquisador da Anthropic e OpenAI, Jacob Coxon, renunciou em protesto, alertando que os laboratórios de IA estão correndo em direção à superinteligência enquanto apostam com a sobrevivência humana. Sua partida desencadeou uma "cascata de preferências" entre os funcionários de grandes laboratórios como OpenAI, Anthropic e Google DeepMind, levando a ampla cobertura por veículos de mídia mainstream como o Wall Street Journal e a BBC.

media r/LocalLLaMA · há 19 d · 18 visualizações

OpenAI pode usar tokens de raciocínio de usuários pagos para treinamento apesar da opção de saída

Uma discussão no Reddit destaca que os termos de opção de saída da OpenAI para usuários pagos podem não proteger os tokens de raciocínio internos, permitindo potencialmente que a empresa utilize esses dados para o treinamento do modelo. O argumento gira em torno da ambiguidade sobre se esses tokens ocultos constituem "Saída" conforme o contrato de serviço, dado que os usuários não os recebem diretamente.

media Don't Worry About the Vase · há 23 d · 43 visualizações

Jakub Pachocki, da OpenAI, alerta para melhoria recursiva autônima iminente e monitoramento inadequado

O cientista-chefe da OpenAI, Jakub Pachocki, publicou um ensaio alertando que máquinas significativamente mais inteligentes que os humanos estão chegando dentro de nossa vida útil, impulsionadas por uma forte expectativa de progresso sustentado rumo à melhoria recursiva autônoma (RSI). Ele argumenta que as técnicas atuais de alinhamento são inadequadas e que tecnologias de monitoramento como Chain of Thought (CoT) estão perdendo eficácia, exigindo tanto soluções técnicas quanto coordenação internacional mais ampla.