Gemma 4 berjalan di dalam Godot melalui GDScript dan shader komputasi Vulkan

Seorang pengembang berhasil menjalankan model bahasa Gemma 4 langsung di dalam mesin game Godot tanpa bergantung pada llama.cpp, Python, server eksternal, atau GDExtensions.

• Proyek ini memanfaatkan file GGUF untuk eksekusi model secara lokal.
• Shader komputasi Vulkan menangani perhitungan model.
• GDScript mengelola pemuatan GGUF, tokenisasi, sampling, cache KV, dan UI obrolan.
• Implementasinya sekitar 10 kali lebih lambat dibandingkan llama.cpp dengan CUDA.

Eksperimen ini menunjukkan bahwa mungkin untuk mengintegrasikan LLM ke dalam Godot hanya menggunakan kemampuan scripting dan grafis bawaannya.