Авторы исследуют, можно ли эффективно применять предиктивные цели обучения в стиле JEPA, которые сопоставляют латентные предсказания с выходами целевого кодировщика, к компактным сетевым отпечаткам. Они представляют JA4-JEPA — модель на базе Transformer, обученную на примерно 397K выборках подполей JA4, JA4H, JA4S и JA4X из наборов данных JA4DB и CIC-IDS-2017.
- Модель оценивалась с использованием замороженного зонда kNN для классификации семейств протоколов в TLS, DNS и SSH.
- На 39 416 отложенных выборках модель достигла косинусного сходства 0.9899 и точности kNN 0.9220.
Эти результаты показывают, что предиктивное обучение в стиле JEPA может создавать полезные эмбеддинги из отпечатков, полученных на основе JA4, даже при неполном перекрытии представлений между источниками обучения.