O desenvolvedor SecFathy disponibilizou como código aberto um protótipo de pesquisa chamado XSS Specialist, um modelo de segurança de 8B projetado para análise de vulnerabilidades XSS. O projeto inicialmente visava empurrar os limites da especialização usando recuperação e LoRA, mas acabou rejeitando o modelo porque ele falhou nos testes adversariais de quase-acerto, onde pequenas alterações nos identificadores causavam julgamentos de segurança incorretos.

  • O desenvolvedor redesenhou o sistema para separar o raciocínio da estabelecimento da verdade, transferindo a autoridade de confirmação para uma camada de execução independente.
  • Um possível achado XSS só é confirmado quando um navegador headless real executa uma sentinela benigna.
  • Em uma benchmark ao vivo congelada com 102 casos, a arquitetura resultante alcançou precisão de 94,1% e recall de 100%, com zero falsos negativos.
  • O código, a arquitetura, os benchmarks e os resultados negativos estão disponíveis no GitHub em SecFathy/xss-specialist.

O autor argumenta que sistemas de IA confiáveis devem ser projetados para permanecer funcionais mesmo quando o modelo está errado, em vez de depender exclusivamente de tornar o modelo confiável.