DeepSeek는 채팅 템플릿 변경을 통해 사고 모드와 비사고 모드를 모두 지원하는 하이브리드 모델인 DeepSeek-V3.1을 출시했습니다. 이번 업데이트로 이전 버전 대비 도구 사용 성능이 향상되고 응답 시간이 단축되었습니다.

  • 하이브리드 사고 모드는 채팅 템플릿을 변경하여 사고 모드와 비사고 모드 간 전환을 가능하게 합니다.
  • 사후 학습 최적화로 도구 사용 및 에이전트 작업의 성능이 크게 향상됩니다.
  • DeepSeek-V3.1-Think는 DeepSeek-R1-0528과 비교 가능한 답변 품질을 유지하면서 더 빠르게 응답합니다.
  • 이 모델은 마이크로스케일링 형식과의 호환성을 위해 UE8M0 FP8 스케일 데이터 형식으로 학습되었습니다.

이번 릴리스에서는 Transformers와 같은 라이브러리, HuggingChat과 같은 추론 제공업체, vLLM 및 SGLang과 같은 로컬 앱에서 모델을 사용하는 방법에 대한 지침이 제공됩니다.