lab OpenAI · há 509 d

OpenAI lança modelos o3 e o4-mini com raciocínio e uso de ferramentas

Traduzido do English → Português (BR)

A OpenAI lançou seus modelos o3 e o4-mini, que combinam capacidades de raciocínio de última geração com uso completo de ferramentas, incluindo navegação na web, execução de Python e análise de imagens. Esses modelos são treinados usando aprendizado por reforço em larga escala em cadeias de pensamento para aprimorar sua capacidade de resolver desafios complexos de matemática, programação e ciência.

Os modelos utilizam ferramentas dentro de seu processo de pensamento para ampliar capacidades, como recortar imagens ou analisar dados via Python.
O Grupo Consultivo de Segurança da OpenAI revisou os modelos sob a Versão 2 de seu Framework de Preparação (Preparedness Framework).
As avaliações determinaram que nenhum dos modelos atinge o limiar Alto em Capacidade Biológica e Química, Cibersegurança ou Auto-melhoria de IA.

O lançamento marca o primeiro sob o framework atualizado, com a empresa observando que o raciocínio avançado fornece novas vias para melhorar a segurança e a robustez por meio do alinhamento deliberativo.

Importância 3/3 Novo recurso frente aos líderes OpenAI OpenAI Reasoning models Safety & alignment

Artigos relacionados

lab OpenAI News · há 2 h

OpenAI alerta para risco da IA à medida que modelos de raciocínio escalam

Em um ensaio intitulado "An Alien Mind", a OpenAI discute o rápido avanço dos modelos de linguagem de raciocínio e o potencial para autoaperfeiçoamento recursivo. O autor expressa preocupação de que a inteligência das máquinas está superando as capacidades humanas de maneiras transformadoras, impulsionada principalmente pelo aumento do poder computacional em vez de algoritmos projetados.

blog Simon Willison · há 25 d · 17 visualizações

Pesquisadores roubam rastros de raciocínio de APIs de LLM proprietárias por meio de ataques de replay

Um artigo demonstra que blocos de cadeia de pensamento criptografados retornados pela Anthropic, OpenAI e Google podem ser extraídos em texto simples. Os autores exploraram uma vulnerabilidade onde modelos dentro da mesma família compartilhavam chaves de criptografia, permitindo que eles retransmitissem os rastros para modelos irmãos mais fracos.

media Latent Space · há 25 d · 29 visualizações

Pesquisadores decodificam rastros de raciocínio criptografados das APIs Claude, GPT e Gemini

Um novo artigo demonstra que blocos de raciocínio criptografados de modelos de ponta como Claude, GPT e Gemini podem ser decodificados e reproduzidos para extrair dados ocultos de cadeia de pensamento. Os autores mostram como esses blobs assinados podem ser transferidos para modelos mais fracos ou sessões diferentes para transcrever os pensamentos subjacentes, efetivamente contornando os esforços de ofuscação dos provedores.

arxiv arXiv cs.LG · há 26 d · 28 visualizações

Pesquisadores exploram reutilização de criptografia entre sessões para roubar rastros de raciocínio de APIs de LLM

Pesquisadores identificaram uma vulnerabilidade na forma como os principais provedores de modelos de linguagem grandes manipulam os rastros de raciocínio passo a passo, que são retornados como blocos criptografados para uso no lado do cliente. Eles descobriram que esses blocos criptografados são totalmente compatíveis e intercambiáveis entre diferentes sessões, usuários e modelos dentro do ecossistema do mesmo provedor.

arxiv arXiv cs.AI · há 27 d · 39 visualizações

Atacantes roubam rastros de raciocínio de APIs de LLM proprietárias por meio de vulnerabilidade em blocos criptografados

Pesquisadores identificaram uma vulnerabilidade arquitetural na forma como os principais provedores de modelos de linguagem grandes manipulam rastros de raciocínio passo a passo. Os provedores retornam esses rastros como blocos criptografados para os clientes, mas o estudo revela que esses blocos são totalmente compatíveis e intercambiáveis entre diferentes sessões, usuários e modelos dentro do ecossistema de um provedor.