Um desenvolvedor executou com sucesso o modelo de linguagem Gemma 4 diretamente dentro da engine de jogos Godot sem depender de llama.cpp, Python, servidores externos ou GDExtensions.

  • O projeto utiliza um arquivo GGUF para a execução local do modelo.
  • Shaders de computação Vulkan lidam com os cálculos do modelo.
  • GDScript gerencia o carregamento do GGUF, tokenização, amostragem, cache KV e a interface de chat.
  • A implementação é aproximadamente 10 vezes mais lenta que llama.cpp com CUDA.

Este experimento demonstra que é possível integrar LLMs no Godot usando apenas seus recursos nativos de scripting e gráficos.