Technology Innovation Institute telah merilis Falcon-Emirati-7B, model bahasa besar yang mengkhususkan diri pada dialek, dibangun di atas arsitektur Falcon-H1-Arabic untuk memahami dan menghasilkan bahasa Arab Emirati dengan akurasi setara penutur asli.
Model ini memanfaatkan struktur hibrida State Space Model dan perhatian Transformer untuk menangani urutan panjang secara efisien sambil mempertahankan presisi untuk bahasa yang kaya morfologi. Pelatihan melibatkan pipa khusus yang menggabungkan data web Emirati autentik, konten MSA yang berfokus pada budaya lokal, dan data sintetis dengan batasan ketat untuk memastikan kesetiaan tata bahasa dan budaya.
Falcon-Emirati-7B mencapai skor 84.83% pada benchmark Alyah, mengungguli model multibahasa yang lebih besar. Dalam tes generasi terbuka, model ini menunjukkan fidelitas dialek yang unggul dibandingkan pesaing seperti ALLaM dan Jais, yang sering kali beralih ke Bahasa Arab Standar Modern bahkan ketika diminta dalam bahasa Emirati.
Rilis ini menyoroti bahwa kompetensi dialek memerlukan pelatihan yang ditargetkan daripada hanya mengandalkan skala model, dengan menangani kosakata, nada, dan konteks budaya spesifik Uni Emirat Arab.