ある研究は、Retroactive Chain-of-Thought (RetroCoT) を紹介している。これは単一ターン攻撃であり、有害なリクエストを法医学的再構築タスクとして再構成することで、大規模言語モデルの安全アライメントの堅牢性をテストするものである。この研究は、現在のアライメントポリシーが実用的なレジスターに強く依存しており、意味的には同等だが実用的には異なる有害な目的に対してモデルが従うことを示している。

  • AdvBench (n=50) において、RetroCoTはGPT-4oで攻撃成功率58%、GPT-4o-miniで52%を達成した。一方、直接リクエストのベースラインはそれぞれ0%と4%であった。
  • GPT-5ファミリーのモデルは、拒絶理由の中で再構築の前提を明示的に特定することで、RetroCoTを完全に拒否した。
  • 既存の法医学的再構築応答を示す単一の敵対的フィードバックターンにより、GPT-4oでの攻撃成功率は94%、GPT-5.4-miniでは48%に上昇した。
  • 制御条件は、スコア操作ではなく確立された法医学的枠組み内での実用的継続が、防御を回避する作動要素であることを示唆している。

これらの結果は、最先端モデルのアライメントが意味的な意図ではなく実用的なフレーミングに依存しており、新しい実用的レジスターが安全対策の脆弱性を引き続き暴き得ることを示唆している。