O projeto llama.cpp lançou a compilação b10003, que inclui uma refatoração significativa do exemplo `tokenize`. A ferramenta foi migrada para usar `common_params_parse`, substituindo sua lógica de análise de argumentos personalizada por auxiliares compartilhados.

  • Expõe as flags de origem do modelo (-m, -mu, -dr, -hf, -hff, --offline, HF_TOKEN) para LLAMA_EXAMPLE_TOKENIZE.
  • Registra --ids, --stdin, --no-bos, --no-parse-special e --show-count como argumentos comuns.
  • Define o valor padrão de parse_special como true para TOKENIZE para preservar o comportamento existente.
  • Encaminha erros através de LOG_ERR em vez de fprintf(stderr).

Esta atualização padroniza a interface da ferramenta tokenize com outros exemplos do llama.cpp, melhorando a consistência e a manutenibilidade em toda a base de código.