v0.29.0rc2 リリースには、プレフィックス覆い項目を適切に処理するための SHM ワーカーキャッシュのバグフィックスが含まれています。
- SHM ワーカーキャッシュでプレフィックス覆い項目が正しく処理されなかった問題を解決します。
github
vLLM
·
2時間前
·
inference
v0.29.0rc2 が SHM ワーカーキャッシュのプレフィックス覆い項目を修正
翻訳元 English → 日本語
関連記事
media
r/LocalLLaMA
·
3日前
·
1 回表示
DeepSeekがHugging FaceにDeepSeek-V4-Flash-Vision-Expをリリース
DeepSeekはHugging FaceにDeepSeek-V4-Flash-Vision-Expモデルのチェックポイントを公開しました。 リポジトリは現在、一般公開されています。
media
MarkTechPost
·
8日前
·
27 回表示
アリババのQwenチームがQwen3.8-Flash-Nextをリリース、Qwen4のプレビュー
アリババのQwenチームは、今後のQwen4シリーズのアーキテクチャをプレビューするために設計されたオープンウェイトのマルチモーダルMixture-of-ExpertsモデルであるQwen3.8-Flash-Nextをリリースしました。このチェックポイントは、125Bのバックボーンと51BのN-gram埋め込みテーブル、および4Bのマルチトークン予測モジュールを組み合わせており、トークンごとに6Bのパラメータのみがアクティブになります。
media
r/LocalLLaMA
·
8日前
·
37 回表示
智譜AIがマルチモーダルなオープンウェイトモデルGLM-5.3-Flashをリリース
智譜AIは、GLM-5シリーズで初めてネイティブにマルチモーダルに対応したモデルであるGLM-5.3-Flashと、glm5_nextアーキテクチャの初のオープンウェイトリリースを発表しました。320Bパラメータのモデルは、30Tトークンのマルチモーダルコーパスで学習され、長いコンテキストの推論コストを削減するために、ハイブリッドなスパース注意機構と線形注意機構を組み合わせています。
lab
Zhipu / Z.ai (GLM, HF)
·
8日前
·
32 回表示
Zaiが320Bのマルチモーダルモデル「GLM-5.3-Flash」をリリース、スパース線形アテンションを採用
ZaiはGLM-5.3-Flashを発表しました。これはGLM-5シリーズ初のネイティブマルチモーダルモデルです。長いコンテキストのサービングコストを削減しつつ、正確な能力を維持するために、スパースと線形の注意力を組み合わせたハイブリッドアーキテクチャを採用しています。
lab
Zhipu / Z.ai (GLM, HF)
·
8日前
·
28 回表示
智譜が320Bパラメータのマルチモーダルモデル「GLM-5.3-Flash」をリリース
智譜は、GLM-5シリーズ初のネイティブマルチモーダルモデルであるGLM-5.3-Flashを発表しました。このモデルは、スパースアテンションと線形アテンションを組み合わせたハイブリッドアーキテクチャを採用し、精度を維持しつつ長文脈の推論コストを削減します。