Falcon 团队发布了 Falcon-Emirati-7B,这是一款基于 Falcon-H1-Arabic 基础构建的方言专用大语言模型,能够以母语级别的细微差别理解和生成阿联酋阿拉伯语。该模型弥合了现代标准阿拉伯语与阿联酋海湾方言中特定词汇、语气和文化背景之间的差距。

  • 基于 Falcon-H1-Arabic 的 7B 变体构建,采用混合 Mamba-Transformer 架构以实现高效的长上下文处理。
  • 使用精心策划的真实阿联酋网络数据、关于阿联酋文化的现代标准阿拉伯语内容以及受特定词汇表约束的合成数据进行训练。
  • 在 Alyah 基准测试中取得 84.83% 的准确率得分,优于更大的多语言模型。
  • 在开放式生成中展现出卓越的方言保真度,得分为 0.52,而 ALLaM 和 Fanar 等竞争对手的得分接近零。

此次发布强调,针对方言的适配对于文化能力是必要的,因为通用阿拉伯语模型即使在要求使用当地方言回复时,也往往默认使用现代标准阿拉伯语。