由 AINekko 和 AIFoundry 社区成员提交的拉取请求引入了 llama.cpp 推理引擎的初始后端,支持 Esperanto Technologies ET-SOC-1 处理器。贡献者旨在通过将此项开发向上游提交,将开源硬件集成到开源推理生态系统中。
ET-SOC-1 处理器最初由 Esperanto Technologies 创建,随后由 AINekko 以 Apache 2.0 许可证开源。核心 RTL 可通过 CORE-ET 仓库获取,而 SDK 和驱动程序托管在 et-platform 仓库中。尽管 ET-SOC-1 是一款较旧的低功耗芯片,其绝对性能低于现代 CPU,但与 ARM R7 7700 开发机等设备相比,它提供了每瓦特更优越的性能。
此贡献促进了在 llama.cpp 框架内使用开源硬件运行大型语言模型。