El servidor vLLM ahora trata los valores nulos en parámetros que permiten nulos, como temperature y top_p, como ausentes, permitiendo a los clientes solicitar explícitamente los valores predeterminados del servidor. Este cambio alinea la API con la especificación de OpenAI y las convenciones existentes de json_value.

  • Se amplió la validación del esquema para manejar valores nulos en parámetros que permiten nulos.
  • Se agregó lógica has_field() para omitir los nulos en las guardias de evaluación de campos.
  • Se renombró la referencia interna de has_field a has_value.

Esta actualización permite a los clientes confiar en los valores predeterminados del servidor enviando null, asegurando compatibilidad con los comportamientos estándar de la API de OpenAI.