PCFG Neural Holographic memotong parameter skor aturan sebesar 99,94% dan mencapai parsing tanpa pengawasan state-of-the-art

Para peneliti mengusulkan PCFG Neural Holographic (Hol-PCFG), sebuah metode yang menyusun ulang penilaian aturan PCFG sebagai pemodelan hubungan aljabar di antara embedding simbol tata bahasa menggunakan Embedding Holographic.

• Hol-PCFG memberi skor pada hubungan anak-kiri, anak-kanan, dan emisi leksikal atas embedding yang dibatasi torus melalui korelasi sirkular.
• Pendekatan ini memberikan setiap probabilitas aturan bentuk tertutup yang membawa struktur intrinsik aturan tata bahasa secara konstruksi.
• Metode ini mencapai kinerja parsing state-of-the-art dalam enam bahasa sambil memotong parameter skor aturan sebesar 99,94% relatif terhadap model baseline.
• Model ini melatih lebih stabil dan dapat melakukan parsing bahasa Jepang langsung dari karakter tanpa segmentasi morfologi apa pun, mempertahankan performa tingkat morfem yang hampir sama.

Hol-PCFG menyediakan bentuk matematika yang dapat diinterpretasikan untuk probabilitas aturan sambil secara signifikan mengurangi jumlah parameter dan meningkatkan stabilitas pelatihan.