Los autores presentan GRAB, una arquitectura constructor-codificador-puente diseñada para la respuesta de preguntas sobre tablas que eleva los datos relacionales a un grafo heterogéneo y los codifica mediante paso de mensajes. El método transfiere señales a un modelo de lenguaje grande congelado a través de un pequeño conjunto de tokens latentes condicionados por la consulta, proporcionando una representación estructural compacta mientras preserva las capacidades generales de razonamiento del LLM.

  • GRAB utiliza un codificador de grafo ligero y un puente latente con solo 91M parámetros, permitiendo un entrenamiento eficiente sin actualizar los pesos del LLM.
  • El enfoque mejora significativamente el rendimiento en tareas de respuesta de preguntas relacionales, logrando las mayores ganancias en entornos exigentes de múltiples tablas.
  • La arquitectura ofrece un método eficiente y fundamentado para conectar el aprendizaje profundo relacional con modelos de lenguaje grandes.