著者らは、Spider、BIRD、BEAVER、および2つのLiveSQLBenchバリアントという5つのテキストからSQLへのデータセットを、スキーマリンクの評価のためにテーブルとカラムの検索タスクとして再構成した。彼らは305Mパラメータの埋め込みモデルに対してコーパス適応ファインチューニングを提案し、平均recall@10を60.4から75.6に引き上げた。

  • この手法は、ターゲットスキーマコーパスから直接自然言語クエリを合成し、粒度認識型のハードネガティブを採掘する。
  • 市販のテキストおよびコード埋め込みモデルを上回り、ベンチマークにおいて最先端の結果と同等のパフォーマンスを示した。
  • 同じアプローチを8Bパラメータの埋め込みモデルに適用すると、recall@10が77.8から78.4に改善された。
  • 実験により、この向上はデータ暗記ではなく転移可能な能力によるものであることが確認された。

これにより、スキーマリンクが独立した検索タスクとして確立され、エンタープライズ規模の展開に向けた実用的な手法として、軽量でラベル不要のコーパス適応が可能であることが示された。