Um estudo apresenta a Cadeia-de-Pensamento Retroativa (RetroCoT), um ataque de turno único que reencaminha solicitações prejudiciais como tarefas de reconstrução forense para testar a robustez do alinhamento de segurança de modelos de linguagem grandes. A pesquisa demonstra que as políticas de alinhamento atuais são altamente condicionadas ao registro pragmático, permitindo que os modelos cumpram objetivos prejudiciais semanticamente equivalentes, mas pragmaticamente distintos.
- No AdvBench (n=50), o RetroCoT alcançou uma taxa de sucesso do ataque de 58% no GPT-4o e 52% no GPT-4o-mini, em comparação com as linhas de base de solicitação direta de 0% e 4%, respectivamente.
- Modelos da família GPT-5 recusaram o RetroCoT inteiramente ao identificar explicitamente a premissa de reconstrução em suas justificativas de recusa.
- Um turno único de feedback adversarial apresentando uma resposta de reconstrução forense existente elevou a taxa de sucesso do ataque para 94% no GPT-4o e 48% no GPT-5.4-mini.
- Condições de controle indicaram que a continuação pragmática dentro do quadro forense estabelecido, em vez da manipulação de pontuação, foi o elemento operacional para contornar as defesas.
Esses resultados sugerem que o alinhamento de modelos de fronteira permanece condicionado ao enquadramento pragmático em vez da intenção semântica, e que novos registros pragmáticos podem continuar a expor vulnerabilidades nas medidas de segurança.