Pesquisadores propõem PCFG Neural Holográfica (Hol-PCFG), um método que reformula a pontuação de regras do PCFG como modelagem de relações algébricas entre embeddings de símbolos gramaticais usando Embeddings Holográficos.
- Hol-PCFG pontua relações de filho esquerdo, filho direito e emissão léxica sobre embeddings com restrição de toro via correlação circular.
- A abordagem dá a cada probabilidade de regra uma forma fechada que carrega a estrutura intrínseca das regras gramaticais por construção.
- Ela alcança o estado da arte em desempenho de análise em seis idiomas enquanto corta parâmetros de pontuação de regras em 99,94% em relação ao modelo base.
- O modelo treina de forma mais estável e pode analisar japonês diretamente a partir de caracteres sem nenhuma segmentação morfológica, retendo quase o mesmo desempenho em nível de morfema.
Hol-PCFG fornece uma forma matemática interpretável para probabilidades de regras enquanto reduz significativamente a contagem de parâmetros e melhora a estabilidade do treinamento.