Zaiが320Bのマルチモーダルモデル「GLM-5.3-Flash」をリリース、スパース線形アテンションを採用
ZaiはGLM-5.3-Flashを発表しました。これはGLM-5シリーズ初のネイティブマルチモーダルモデルです。長いコンテキストのサービングコストを削減しつつ、正確な能力を維持するために、スパースと線形の注意力を組み合わせたハイブリッドアーキテクチャを採用しています。
ZaiはGLM-5.3-Flashを発表しました。これはGLM-5シリーズ初のネイティブマルチモーダルモデルです。長いコンテキストのサービングコストを削減しつつ、正確な能力を維持するために、スパースと線形の注意力を組み合わせたハイブリッドアーキテクチャを採用しています。
智譜は、GLM-5シリーズ初のネイティブマルチモーダルモデルであるGLM-5.3-Flashを発表しました。このモデルは、スパースアテンションと線形アテンションを組み合わせたハイブリッドアーキテクチャを採用し、精度を維持しつつ長文脈の推論コストを削減します。