llama.cpp 프로젝트는 Clef 모델의 비전 입력을 지원하기 위해 서버 구성 요소를 업데이트했습니다. 이 변경은 pull request #29969 의 일부입니다.

  • Clef 에 대한 비전 입력 지원 추가.
  • input_attn_causal 를 private 으로 이동.
  • 이전 server_batch::embd 확장.
  • server_batch::token::pos 를 다차원으로 변경.
  • 중단 처리 수정.
  • 이미지 토큰 제한 수정.
  • yield_to_queue 의 데이터 변조 문제 수정.