Sebuah pull request yang diajukan oleh AINekko dan anggota komunitas AIFoundry memperkenalkan backend awal untuk mesin inferensi llama.cpp, yang memungkinkan dukungan untuk prosesor ET-SOC-1 dari Esperanto Technologies. Kontributor ini bertujuan untuk mengintegrasikan perangkat keras open source ke dalam ekosistem inferensi open source dengan melakukan upstream pengembangan ini.
Prosesor ET-SOC-1 awalnya dibuat oleh Esperanto Technologies dan kemudian di-open-sourcekan di bawah lisensi Apache 2.0 oleh AINekko. RTL inti tersedia melalui repositori CORE-ET, sementara SDK dan driver di-hosting di repositori et-platform. Meskipun ET-SOC-1 adalah chip lama berdaya rendah dengan kinerja absolut yang lebih rendah daripada CPU modern, chip ini menawarkan kinerja per watt yang lebih unggul dibandingkan perangkat seperti mesin pengembangan ARM R7 7700.
Kontribusi ini memfasilitasi penggunaan perangkat keras open source untuk menjalankan model bahasa besar dalam kerangka kerja llama.cpp.