曼海姆数据集成基准(MaDI-Bench)作为首个面向关系表端到端集成的公开基准被提出,旨在解决该领域缺乏全面评估工具的问题。它涵盖了集成过程的所有步骤,包括模式匹配、值规范化、实体分块、实体匹配和数据融合。

  • MaDI-Bench 提供了跨越多个应用领域的基线任务,这些任务需要从模式匹配到冲突解决的完整流水线。
  • 该基准包含一种用于推导任务变体的通用方法,以缓解随着数据集成系统进步而出现的快速饱和问题。
  • 验证工作使用了人工构建的流水线、最佳流水线以及基于大语言模型的流水线进行。

该基准支持对数据集成流水线的逐步性能和端到端性能进行测量,所有相关资源均可公开下载。