사용자가 로컬 LLM로 PDF를 JSON으로 매핑하는 데 어려움을 겪음

한 레딧 사용자는 PDF를 JSON으로 변환하는 시도를 3개월간 진행한 끝에, 파싱에는 Docling을 채택했지만 후속 데이터 매핑 단계에서 지속적인 문제를 겪고 있다고 보고했습니다. 이 사용자는 Docling의 마크다운 출력을 특정 JSON 형식으로 변환하기 위해 로컬 Qwen 3.5-9B 모델을 사용합니다.

• 주요 실패 모드는 수량과 금액의 잘못된 라벨링, 그리고 변경되지 않아야 할 값의 치환이 포함됩니다.
• 프롬프트 엔지니어링 시도는 새로운 문제를 초래할 뿐 일반화된 해결책을 제공하지 못해 실패했습니다.
• 사용자는 이 문제가 워크플로우 자체의 결함이 아니라 로컬 LLM 능력의 본질적인 제한에서 비롯된 것이라고 의심합니다.

이 게시물은 외부 API에 의존하지 않고 로컬 모델만 사용하여 PDF에서 신뢰할 수 있는 구조화된 데이터 추출을 달성하는 어려움을 강조합니다.