研究者らは、非侵襲的な脳波(EEG)デコーディングにおけるマスク再構築アプローチの限界に対処するために設計された、革新的な対照的事前学習ファウンデーションモデルであるCoCoTを紹介している。このアーキテクチャは、マルチスケール時間畳み込み入力層とトランスフォーマーエンコーダブロックを組み合わせることで、高ノイズデータや狭い周波数帯域に限定された情報をより良く処理する。

  • CoCoTは、多様な電極構成を持つ広範なベンチマークデコーディングタスクにおいて、最先端の再構築事前学習EEGモデルと同等かそれ以上の性能を示す。
  • スクラッチから訓練されたモデルは、以前の単一タスクデコーディングモデルを上回り、事前学習済みモデルに匹敵する性能を発揮し、高い柔軟性とデータ効率性を示している。
  • 体系的なアブレーション研究により、EEGファウンデーションモデル構築における対照的学習の有効性が確認され、重要なアーキテクチャ設計の考慮事項が浮き彫りになった。

本研究は、対照的事前学習がEEGファウンデーションモデルにとって有効な戦略であり、従来のマスク再構築手法に対する効果的な代替手段であることを示している。