DeepSeekは、チャットテンプレートの変更により思考モードと非思考モードの両方をサポートするハイブリッドモデルであるDeepSeek-V3.1をリリースしました。このアップデートにより、以前のバージョンと比較してツールの使用パフォーマンスが向上し、応答時間が短縮されました。

  • ハイブリッド思考モードでは、チャットテンプレートを変更することで思考モードと非思考モードの切り替えが可能です。
  • 学習後最適化により、ツール使用およびエージェントタスクのパフォーマンスが大幅に向上します。
  • DeepSeek-V3.1-Thinkは、DeepSeek-R1-0528と同等の回答品質を維持しつつ、より迅速に応答します。
  • このモデルは、マイクロスケーリング形式との互換性のためにUE8M0 FP8スケールデータ形式でトレーニングされています。

今回のリリースでは、Transformersなどのライブラリ、HuggingChatなどの推論プロバイダー、vLLMやSGLangなどのローカルアプリでのモデル使用に関する手順が提供されています。