A equipe Falcon lançou o Falcon-Emirati-7B, um modelo de linguagem grande especializado em dialetos, construído sobre a base Falcon-H1-Arabic para compreender e gerar árabe emiratense com nuances de nível nativo. O modelo aborda a lacuna entre o Árabe Padrão Moderno e o vocabulário específico, o tom e o contexto cultural do dialeto do Golfo dos Emirados Árabes Unidos.
- Construído na variante 7B do Falcon-H1-Arabic usando uma arquitetura híbrida Mamba-Transformer para processamento eficiente de contexto longo.
- Treinado em uma mistura curada de dados autênticos da web emiratense, conteúdo de AMP (Árabe Padrão Moderno) sobre a cultura emiratense e dados sintéticos restritos por glossários específicos.
- Alcançou uma pontuação de precisão de 84,83% no benchmark Alyah, superando modelos multilíngues maiores.
- Demonstrou fidelidade dialetal superior na geração aberta-ended, obtendo pontuação de 0,52 em comparação com pontuações próximas de zero para concorrentes como ALLaM e Fanar.
O lançamento destaca que a adaptação dialetal direcionada é necessária para a competência cultural, pois modelos gerais de árabe frequentemente recorrem ao Árabe Padrão Moderno mesmo quando solicitados a responder no dialeto local.