연구자들은 MOJO(Masked autOencoder-based JOint training)를 소개했습니다. 이는 스파이크 토큰화 모델을 위한 프레임워크로, 마스크된 오토인코딩을 통한 자기지도 학습과 지도 학습 목적을 결합하여 활용합니다. 이 접근 방식은 짝지어진 행동 라벨이 필요한 현재 모델이 지도 학습에 제한되어 있다는 한계를 해결합니다.
- 원숭이 운동 피질 및 다중 영역 쥐 기록을 아우르는 세 가지 스파이크 데이터셋에서 평가된 MOJO는 순수하게 지도 학습된 모델보다 우수한 성능을 보여줍니다.
- 이 개선은 특히 제한된 라벨링된 데이터로 훈련할 때, 구체적으로 few-shot finetuning 시나리오에서 두드러집니다.
- 자기지도 학습을 통합하면 더 해석 가능한 신경 표현이 얻어지며, 명시적인 최적화 없이 뇌 영역 분류 및 스파이크 통계 예측 성능이 향상됩니다.
- MOJO는 발화 중 인간의 electrocorticography로 일반화되어 연속 신호용으로 설계된 neuro-foundation 모델과 비교 가능한 성능을 달성했습니다.
자기지도 학습으로 스파이크 토큰화 모델을 증강하면 레이블이 부족한 환경에서 성능이 향상되며 다양한 작업 및 종에 걸쳐 레이블 없는 데이터를 사용할 수 있게 됩니다.