llama.cpp b10144 リリースは、再開可能なストリームに関するサーバーとUIの重大な問題を解決し、特にスラッシュを含むモデル名の処理を修正しました。また、モデル読み込み中にリクエストが適切にキャンセルまたは再開されないバグも修正されました。
- ルーターモードでエンコーディング時にスラッシュを含むモデル名が保持されるよう、再開可能なストリームルートを `conv_id` クエリ文字列を使用するように書き換えました。
- モデル読み込み中にストリームが停止された場合、オートロード待機前に会話を登録することで保留中のリクエストをキャンセルします。
- モデル読み込み中にページ再読み込み後にストリームを再開できるようにし、セッションリクエストをクライアントソケットから切り離して、再試行には503を返すようにしました。
- 保留中のストリーム状態を永続化することで、ページ更新後にUIでのモデル読み込み進捗の可視性を復元しました。
これらの変更により、クライアントの切断やURLエンコーディングの問題に対して会話が堅牢になり、モデル読み込みフェーズにおける孤立したリクエストやセッションの消失を防ぎます。