El proyecto llama.cpp lanzó la compilación b10003, que incluye una refactorización significativa del ejemplo `tokenize`. La herramienta se ha migrado para usar `common_params_parse`, reemplazando su lógica de análisis de argumentos personalizada con helpers compartidos.

  • Expone las banderas de origen del modelo (-m, -mu, -dr, -hf, -hff, --offline, HF_TOKEN) a LLAMA_EXAMPLE_TOKENIZE.
  • Registra --ids, --stdin, --no-bos, --no-parse-special y --show-count como argumentos comunes.
  • Establece el valor predeterminado de parse_special en true para TOKENIZE para preservar el comportamiento existente.
  • Enruta los errores a través de LOG_ERR en lugar de fprintf(stderr).

Esta actualización estandariza la interfaz de la herramienta tokenize con otros ejemplos de llama.cpp, mejorando la consistencia y mantenibilidad en toda la base de código.