DeepSeek는 백만 토큰 컨텍스트에서 프론티어 모델을 에이전트로 실행할 때 발생하는 연산 병목 현상을 해결하기 위해 설계된 새로운 오픈 모델 패밀리인 DeepSeek-V4를 출시했습니다. 이 아키텍처는 단일 토큰 추론 FLOPs와 KV 캐시 메모리 요구사항을 극적으로 줄이기 위해 압축 희소 어텐션(CSA)과 과도하게 압축된 어텐션(HCA)을 도입합니다.

  • V4-Pro는 DeepSeek-V3.2 대비 단일 토큰 추론 FLOPs의 27%를 필요로 하며 KV 캐시 메모리의 10%를 사용하며, V4-Flash는 각각 이 수치를 10%와 7%로 줄입니다.
  • 모델은 도구 호출이 포함된 경우 사용자 메시지 경계 전반에 추론 트레이스를 보존하여 일관된 장기 에이전트 워크플로우를 가능하게 합니다.
  • 중첩 JSON 콘텐츠와 관련된 파싱 실패를 줄이기 위해 전용 토큰을 갖춘 새로운 XML 기반 도구 호출 스키마가 도입되었습니다.
  • 에이전트 동작은 다양한 실행 서브스트레이트 전반에 걸쳐 동시 RL 롤아웃을 지원하는 Rust 기반 샌드박스 인프라인 DeepSeek Elastic Compute(DSec)를 사용하여 학습되었습니다.
  • V4-Pro-Max는 SWE Verified에서 80.6, Terminal Bench 2.0에서 67.9를 달성하여 Opus 4.6-Max 및 GPT-5.4-xHigh와 같은 주요 독점 모델들과 경쟁력 있는 위치를 차지했습니다.

이번 출시로 DeepSeek-V4-Pro와 V4-Flash에 대해 네 가지 체크포인트(인스트럭트 두 개, 베이스 두 개)가 제공되어 커뮤니티에게 장기 컨텍스트 에이전트 애플리케이션을 위한 비용 효율적인 대안을 제공합니다.