Peneliti memperkenalkan MOJO (Masked autOencoder-based JOint training), sebuah kerangka kerja untuk model tokenisasi spike yang secara bersama memanfaatkan pembelajaran tanpa pengawasan melalui autoencoding termasking dan tujuan pembelajaran terawasi. Pendekatan ini mengatasi keterbatasan model saat ini yang terbatas pada pembelajaran terawasi, yang memerlukan label perilaku berpasangan.
- Dievaluasi pada tiga dataset spike yang mencakup korteks motorik monyet dan rekaman multi-regional tikus, MOJO menunjukkan kinerja yang lebih unggul dibandingkan model yang dilatih secara murni dengan pembelajaran terawasi.
- Peningkatan ini sangat menonjol ketika dilatih dengan data berlabel terbatas, khususnya dalam skenario finetuning few-shot.
- Menggabungkan pembelajaran tanpa pengawasan menghasilkan representasi neuron yang lebih dapat diinterpretasikan, meningkatkan kinerja pada klasifikasi wilayah otak dan prediksi statistik spike tanpa optimisasi eksplisit.
- MOJO digeneralisasi ke elektrokortikografi manusia selama bicara, mencapai kinerja yang sebanding dengan neuro-foundation models yang dirancang untuk sinyal kontinu.
Meningkatkan model tokenisasi spike dengan pembelajaran tanpa pengawasan meningkatkan kinerja dalam pengaturan yang miskin label dan memungkinkan penggunaan data tanpa label di berbagai tugas dan spesies.