O projeto llama.cpp lançou a compilação b10003, que inclui uma refatoração significativa do exemplo `tokenize`. A ferramenta foi migrada para usar `common_params_parse`, substituindo sua lógica de análise de argumentos personalizada por auxiliares compartilhados.
- Expõe as flags de origem do modelo (-m, -mu, -dr, -hf, -hff, --offline, HF_TOKEN) para LLAMA_EXAMPLE_TOKENIZE.
- Registra --ids, --stdin, --no-bos, --no-parse-special e --show-count como argumentos comuns.
- Define o valor padrão de parse_special como true para TOKENIZE para preservar o comportamento existente.
- Encaminha erros através de LOG_ERR em vez de fprintf(stderr).
Esta atualização padroniza a interface da ferramenta tokenize com outros exemplos do llama.cpp, melhorando a consistência e a manutenibilidade em toda a base de código.