llama.cppプロジェクトは、ビルトインHTTPサーバーでCORS(Cross-Origin Resource Sharing)を構成するための新しいコマンドラインオプションを導入したバージョンb10010をリリースしました。

  • サーバーはCORSの動作を制御するために`--cors-*`フラグをサポートするようになりました。
  • オリジン設定には特別な「localhost」値が利用可能です。
  • 新しい機能をカバーするためにテストが追加および更新されました。
  • macOS(Apple SiliconとIntel)、iOS、Linux(Ubuntu x64、arm64、s390x with CPU、Vulkan、ROCm 7.2、OpenVINO、SYCL)、Android(arm64)、Windows(CPU、OpenCL Adreno、CUDA 12/13、Vulkan、OpenVINO、SYCL、HIP)、openEuler用のバイナリが提供されています。

このアップデートにより、ユーザーはllama.cppサーバーをローカルで実行する際にクロスオリジンリクエストをより柔軟に管理できるようになります。