研究者らは、ホログラフィック埋め込みを用いて文法記号埋め込み間の代数関係モデリングとしてPCFGルールスコアリングを組み直す手法であるホログラフィックニューラルPCFG(Hol-PCFG)を提案する。
- Hol-PCFGは、円形相関を通じてトーラス制約付き埋め込み上で左子、右子、および語彪生成関係にスコアを付ける。
- このアプローチは、文法規則の内在的構造を構築によって伝える閉じた形式の確率をすべてのルールに与える。
- 基準モデルと比較してルールスコアリングパラメータを99.94%削減しながら、6つの言語で最先端の構文解析性能を実現する。
- モデルはより安定して学習し、形態素分割を一切行わずに文字から直接日本語を構文解析でき、ほぼ同等の形態素レベルの性能を維持する。
Hol-PCFGは、パラメータ数を大幅に削減しトレーニングの安定性を改善しながら、ルール確率に対して解釈可能な数学的形式を提供する。