Pesquisadores introduzem o CoCoT, um novo modelo fundamental pré-treinado por contraste projetado para abordar as limitações das abordagens de reconstrução mascarada na decodificação não invasiva de eletroencefalograma (EEG). A arquitetura combina camadas de entrada de convolução temporal multiescala com blocos codificadores do Transformer para lidar melhor com dados de alto ruído e informações confinadas a bandas de frequência estreitas.
- O CoCoT iguala ou supera os modelos EEG pré-treinados por reconstrução mais avançados em tarefas extensas de decodificação por benchmark com configurações de eletrodos heterogêneas.
- Modelos treinados do zero superam os modelos de decodificação de tarefa única anteriores e rivalizam com os modelos pré-treinados, demonstrando alta flexibilidade e eficiência de dados.
- Ablações sistemáticas confirmam a viabilidade do aprendizado por contraste para construir modelos fundamentais de EEG e destacam considerações-chave de design da arquitetura.
O estudo demonstra que o pré-treinamento por contraste é uma estratégia viável para modelos fundamentais de EEG, oferecendo uma alternativa eficaz aos métodos tradicionais de reconstrução mascarada.