Исследователи представляют CoCoT, новую фундаментальную модель, предобученную с использованием контрастного обучения, предназначенную для устранения ограничений подходов маскированного восстановления в неинвазивном декодировании электроэнцефалограммы (ЭЭГ). Архитектура объединяет входные слои мультимасштабной временной свертки с блоками энкодера Трансформера для лучшей обработки данных с высоким уровнем шума и информации, ограниченной узкими частотными диапазонами.

  • CoCoT показывает результаты на уровне лучших существующих моделей или превосходит их в обширных задачах декодирования по бенчмаркам с гетерогенными конфигурациями электродов.
  • Модели, обученные с нуля, превосходят предыдущие модели для однозадачного декодирования и соперничают с предобученными моделями, демонстрируя высокую гибкость и эффективность использования данных.
  • Систематические абляции подтверждают жизнеспособность контрастного обучения для создания фундаментальных моделей ЭЭГ и выделяют ключевые соображения при проектировании архитектуры.

Исследование показывает, что контрастное предобучение является жизнеспособной стратегией для фундаментальных моделей ЭЭГ, предлагая эффективную альтернативу традиционным методам маскированного восстановления.