开发者 SecFathy 开源了一个名为 XSS Specialist 的研究原型,这是一个专为 XSS 漏洞分析设计的 8B 安全模型。该项目最初旨在利用检索和 LoRA 推动专业化极限,但最终弃用了该模型,因为它在对抗性近失测试中失败,即微小的标识符变化导致了错误的安全判断。
- 开发者重新设计了系统,将推理与事实确立分离,将确认权移至独立的执行层。
- 仅当真实无头浏览器执行良性哨兵时,潜在的 XSS 发现才会被确认。
- 在冻结的 102 案例实时基准测试中,最终架构实现了 94.1% 的精确率和 100% 的召回率,且零假阴性。
- 代码、架构、基准测试和负面结果可在 GitHub 上的 SecFathy/xss-specialist 获取。
作者认为,可靠的 AI 系统应被设计为即使模型出错也能保持功能正常,而不是仅依赖于让模型值得信赖。