Proyek llama.cpp telah merilis build b10328, yang memperkenalkan dukungan awal untuk mengisolasi alat di dalam komponen server menggunakan Docker. Pembaruan ini mencakup dokumentasi dan adaptasi kode untuk memisahkan sandbox I/O alat dan mengganti nama flag konfigurasi yang relevan.

  • Server: menambahkan dukungan isolasi alat awal melalui Docker (PR #26507)
  • Memperbarui dokumentasi dan mengadaptasi fungsi get_info
  • Memperbaiki masalah pengecekan tipe Python
  • Memisahkan tools_io_sandbox dari tools_io_docker
  • Mengganti nama sandbox menjadi isolate dan x-tool-docker menjadi x-tool-runtime

Rilis ini menyediakan biner untuk macOS, Linux, Windows, Android, dan iOS di berbagai backend perangkat keras termasuk CPU, CUDA, Vulkan, ROCm, OpenVINO, SYCL, dan OpenCL.