Исследователи представляют MOJO (Masked autOencoder-based JOint training), фреймворк для моделей, токенизирующих спайки, который совместно использует обучение без учителя через маскированное автокодирование и задачи обучения с учителем. Этот подход решает ограничение текущих моделей, ограниченных обучением с учителем, которое требует парных поведенческих меток.

  • Оценен на трех наборах данных со спайками, охватывающих моторную кору обезьян и многорегиональные записи мышей, MOJO демонстрирует превосходные результаты по сравнению с моделями, обученными исключительно с учителем.
  • Улучшение особенно заметно при обучении с ограниченным количеством размеченных данных, в частности в сценариях few-shot finetuning.
  • Внедрение обучения без учителя дает более интерпретируемые нейронные представления, улучшая результаты классификации областей мозга и предсказания спайк-статистики без явной оптимизации.
  • MOJO обобщается на электрокортикографию человека во время речи, достигая производительности, сопоставимой с нейро-фундаментальными моделями, предназначенными для непрерывных сигналов.

Добавление обучения без учителя к моделям, токенизирующим спайки, улучшает результаты в условиях нехватки меток и позволяет использовать неразмеченные данные для различных задач и видов.