Server vLLM sekarang memperlakukan nilai null dalam parameter nullable seperti temperature dan top_p sebagai tidak ada, memungkinkan klien untuk secara eksplisit meminta nilai default server. Perubahan ini menyelaraskan API dengan spesifikasi OpenAI dan konvensi json_value yang ada.

  • Validasi skema diperluas untuk menangani nilai null untuk parameter nullable.
  • Ditambahkan logika has_field() untuk melewatkan null dalam guard evaluasi field.
  • Mengubah referensi internal dari has_field menjadi has_value.

Pembaruan ini memungkinkan klien untuk mengandalkan default sisi server dengan mengirimkan null, memastikan kompatibilitas dengan perilaku API OpenAI standar.