O Technology Innovation Institute lançou o Falcon-Emirati-7B, um modelo de linguagem grande especializado em dialetos, construído sobre a arquitetura Falcon-H1-Arabic para compreender e gerar árabe emiratense com precisão de nível nativo.
O modelo utiliza uma estrutura híbrida de State Space Model e atenção Transformer para lidar eficientemente com sequências longas enquanto mantém a precisão para linguagens morfologicamente ricas. O treinamento envolveu um pipeline dedicado que combina dados autênticos da web emiratense, conteúdo em árabe padrão moderno (MSA) focado na cultura local e dados sintéticos estritamente restritos para garantir fidelidade gramatical e cultural.
O Falcon-Emirati-7B alcança uma pontuação de 84.83% no benchmark Alyah, superando modelos multilíngues maiores. Em testes de geração aberta, demonstrou fidelidade dialetal superior em comparação com concorrentes como ALLaM e Jais, que frequentemente recorriam ao árabe padrão moderno mesmo quando solicitados em emiratense.
O lançamento destaca que a competência dialetal requer treinamento direcionado, em vez de depender apenas da escala do modelo, abordando o vocabulário específico, o tom e o contexto cultural dos Emirados Árabes Unidos.