研究人员介绍了 MOJO（Masked autOencoder-based JOint training），这是一个用于脉冲标记化模型的框架，联合利用了通过掩码自动编码实现的自监督学习和监督学习目标。这种方法解决了当前模型仅限于监督学习的局限性，后者需要成对的行为标签。

  • 在涵盖猴子运动皮层和多区域小鼠记录的三个脉冲数据集上进行了评估，MOJO 的表现优于纯监督训练的模型。
  • 在使用有限标记数据训练时，这种改进尤为明显，特别是在 few-shot finetuning 场景中。
  • 结合自监督学习产生了更具可解释性的神经元表示，在不进行显式优化的情况下提高了脑区分类和脉冲统计预测的性能。
  • MOJO 可泛化到人类言语期间的皮层电图（electrocorticography），其性能与专为连续信号设计的神经基础模型相当。

通过自监督学习增强脉冲标记化模型，改善了标签稀缺环境下的性能，并使得在各种任务和物种中使用未标记数据成为可能。