El proyecto llama.cpp lanzó la compilación b10003, que incluye una refactorización significativa del ejemplo `tokenize`. La herramienta se ha migrado para usar `common_params_parse`, reemplazando su lógica de análisis de argumentos personalizada con helpers compartidos.
- Expone las banderas de origen del modelo (-m, -mu, -dr, -hf, -hff, --offline, HF_TOKEN) a LLAMA_EXAMPLE_TOKENIZE.
- Registra --ids, --stdin, --no-bos, --no-parse-special y --show-count como argumentos comunes.
- Establece el valor predeterminado de parse_special en true para TOKENIZE para preservar el comportamiento existente.
- Enruta los errores a través de LOG_ERR en lugar de fprintf(stderr).
Esta actualización estandariza la interfaz de la herramienta tokenize con otros ejemplos de llama.cpp, mejorando la consistencia y mantenibilidad en toda la base de código.