著者らは、自動構築された知識グラフに依存するGraphベースのRetrieval-Augmented Generation(Graph-RAG)システムの信頼性を評価するために設計されたフレームワークであるTRIAGEを紹介している。最終出力のみをチェックする従来の評価手法とは異なり、TRIAGEは3つの明確なステージに計装を施す:KG Implementation、KG Validation by expert、およびKG Usage。

  • このフレームワークは、各フェーズにステージ固有の指標を付加する。これには、実装段階でのトリプル信頼度とソースカバレッジ、検証段階でのグラフレベルの構造的品質、利用段階での検索カバレッジと忠実度が含まれる。
  • 展開される指標にはゴールドアノテーションは不要であり、参照を必要とする指標はオフラインキャリブレーションのためにのみ使用される。
  • これらの指標は診断チェーンを形成し、最初の壊れたリンクが失敗を特定のステージ(抽出、グラフスキーマ、または検索)に局所化する。

このアプローチにより、ユーザーはパイプライン内で失敗がどこで発生するかを正確に特定し、誤った最終回答を観察するだけでなく、対象となる対策を適用することができる。