Les chercheurs présentent SpikeLogBERT, un cadre de réseau neuronal à impulsions conçu pour l'analyse de journaux économe en énergie qui transforme les journaux système bruts en modèles d'événements structurés.
- Le modèle intègre une architecture de transformeur à impulsions avec la distillation des connaissances d'un modèle enseignant BERT afin de préserver la capacité de représentation sémantique.
- Il exploite des activations d'impulsions clairsemées et un traitement piloté par les événements pour réduire considérablement le nombre d'opérations actives lors de l'inférence.
- Les expériences sur le jeu de données HDFS montrent que SpikeLogBERT atteint une précision d'analyse de 0,99997, surpassant les modèles d'analyse de journaux neuronaux basés sur ANN.
- L'approche réduit la consommation énergétique théorique estimée jusqu'à 62,6 % sous des hypothèses CMOS standard de 45 nm.
Ce cadre offre une méthode d'analyse automatisée des journaux qui maintient une haute précision tout en réduisant substantiellement le coût computationnel et la consommation d'énergie associés aux multiplications matricielles denses.