研究者らは、SpikeLogBERTを発表しました。これは、生のシステムログを構造化されたイベントテンプレートに変換する、エネルギー効率の良いログ解析用に設計されたスパイキングニューラルネットワークフレームワークです。

  • このモデルは、セマンティック表現能力を維持するために、BERT教師モデルからの知識蒸留とスパイキングトランスフォーマーアーキテクチャを統合しています。
  • 推論中のアクティブな演算数を大幅に削減するため、疎なスパイク活性化とイベント駆動型処理を活用します。
  • HDFSデータセットでの実験により、SpikeLogBERTは0.99997の解析精度を達成し、ANNベースのニューラルログ解析モデルを上回りました。
  • 標準的な45nm CMOSの仮定の下で、推定理論エネルギー消費量を最大62.6%削減します。

このフレームワークは、高密度行列乗算に関連する計算コストとエネルギー消費を大幅に低減しながら、高い精度を維持する自動化されたログ分析の方法を提供します。