Um pull request submetido por AINekko e membros da comunidade AIFoundry introduz um backend inicial para o mecanismo de inferência llama.cpp, habilitando o suporte para o processador Esperanto Technologies ET-SOC-1. O contribuidor visa integrar hardware de código aberto no ecossistema de inferência de código aberto fazendo o upstream deste desenvolvimento.
O processador ET-SOC-1 foi originalmente criado pela Esperanto Technologies e posteriormente liberado como software de código aberto sob a licença Apache 2.0 por AINekko. O RTL base está disponível via repositório CORE-ET, enquanto o SDK e os drivers estão hospedados no repositório et-platform. Embora o ET-SOC-1 seja um chip mais antigo de baixo consumo com desempenho absoluto inferior ao das CPUs modernas, ele oferece desempenho superior por watt em comparação a dispositivos como a máquina de desenvolvimento ARM R7 7700.
Esta contribuição facilita o uso de hardware de código aberto para executar grandes modelos de linguagem dentro do framework llama.cpp.