一名开发者已成功在 Godot 游戏引擎内直接运行 Gemma 4 语言模型，无需依赖 llama.cpp、Python、外部服务器或 GDExtensions。

  • 该项目使用 GGUF 文件进行模型的本地执行。
  • Vulkan 计算着色器处理模型计算。
  • GDScript 管理 GGUF 加载、分词、采样、KV 缓存和聊天 UI。
  • 该实现的速度比使用 CUDA 的 llama.cpp 慢约 10 倍。

这一实验证明了仅使用 Godot 的原生脚本和图形功能即可将 LLM 集成到 Godot 中。