Un desarrollador ha ejecutado con éxito el modelo de lenguaje Gemma 4 directamente dentro del motor de juegos Godot sin depender de llama.cpp, Python, servidores externos ni GDExtensions.
- El proyecto utiliza un archivo GGUF para la ejecución local del modelo.
- Los shaders de cómputo Vulkan manejan los cálculos del modelo.
- GDScript gestiona la carga de GGUF, la tokenización, el muestreo, la caché KV y la interfaz de chat.
- La implementación es aproximadamente 10 veces más lenta que llama.cpp con CUDA.
Este experimento demuestra que es posible integrar LLMs en Godot utilizando únicamente sus capacidades nativas de scripting y gráficos.