Makalah ini menyelidiki learnability model Transformer, melampaui karya teoretis sebelumnya yang berfokus terutama pada ekspresivitas dan karakterisasi kelas hipotesis. Penulis mengusulkan batas kompleksitas sampel awal untuk pembelajaran konstruksi C-RASP dengan Transformer.
- Karya teoretis masa lalu mengkarakterisasi tugas-tugas mana yang berada di kelas hipotesis model Transformer menggunakan bobot buatan tangan atau argumen kompleksitas komputasi.
- Sedikit karya sebelumnya menyelidiki learnability solusi semacam itu.
- Studi ini mengusulkan batas kompleksitas sampel awal untuk pembelajaran konstruksi C-RASP.