llama.cpp プロジェクトは、laya、julia-1、lev、openjev、kev を含む特定のモデルアーキテクチャをサポートするために、新しい `/v1/systemone` API エンドポイントを導入しました。このアップデートには、llama.cpp エコシステム内でこれらのモデルを有効にするために必要なサーバーコード、変換スクリプト、ドキュメントが含まれています。

  • laya、julia-1、lev、openjev、kev モデル用の `/v1/systemone` API エンドポイントを追加。
  • 新しいアーキテクチャ向けのモデル読み込みと変換サポートを実装。
  • ビジョンサポートと共有プロンプトプレフィックス機能を追加。
  • テスト目的の `openjev` 小型モデルを含める。
  • ドキュメントを更新し、新機能のユーザーエクスペリエンスを改善。

このリリースにより、開発者は llama.cpp サーバーを使用してこれらの特定のモデルタイプを実行および提供するためのインフラストラクチャを提供されます。