نجح مطور في تشغيل نموذج اللغة Gemma 4 مباشرةً داخل محرك الألعاب Godot دون الاعتماد على llama.cpp أو Python أو الخوادم الخارجية أو GDExtensions.

  • يستخدم المشروع ملف GGUF لتنفيذ النموذج محليًا.
  • تتولى shader الحوسبة Vulkan معالجة حسابات النموذج.
  • تدير GDScript تحميل ملفات GGUF، والتجزئة إلى رموز (tokenization)، والعينة (sampling)، ومخزن KV، وواجهة المستخدم للدردشة.
  • التنفيذ أبطأ بحوالي 10 مرات مقارنة بـ llama.cpp مع CUDA.

يُظهر هذا التجربة أنه من الممكن دمج نماذج اللغات الكبيرة (LLMs) في Godot باستخدام قدرات البرمجة النصية والرسومات الأصلية فقط.