vLLM 서버는 이제 temperature 및 top_p와 같은 nullable 매개변수에서 null 값을 결여된 것으로 처리하여 클라이언트가 서버 기본값을 명시적으로 요청할 수 있게 되었습니다. 이 변경은 API를 OpenAI 사양 및 기존 json_value 관행과 일치시킵니다.

  • nullable 매개변수에 대한 null 값을 처리하도록 스키마 유효성 검사를 확장했습니다.
  • 필드 평가 가드에서 null을 건너뛰기 위해 has_field() 로직을 추가했습니다.
  • 내부 참조를 has_field에서 has_value로 이름 변경했습니다.

이 업데이트를 통해 클라이언트는 null을 전송하여 서버 측 기본값에 의존할 수 있게 되며, 표준 OpenAI API 동작과의 호환성이 보장됩니다.