최근 'json-to-md'라는 새로운 오픈소스 도구가 공개되어 개발자 커뮤니티의 주목을 받고 있습니다. 이 도구는 JSON(JavaScript Object Notation) 문서를 사람이 읽기 쉽고 LLM(Large Language Model)이 처리하기에 효율적인 깃허브 플래버드 마크다운(GitHub Flavored Markdown, GFM) 형식으로 변환합니다. 특히, 이 변환 과정이 브라우저, Node.js, Go, CLI 등 어떤 환경에서든 바이트 단위로 동일한 결과물을 생성한다는 점이 특징입니다.
'json-to-md' 개발팀은 JSON의 구두점(괄호, 따옴표, 콜론 등)이 LLM 토큰 비용의 상당 부분을 차지하며, 이는 모델이 데이터 구조를 파악하는 데 불필요한 비용을 발생시킨다고 지적합니다. 실제 측정 결과, 한 문서를 JSON으로 처리했을 때 13,869 토큰이 소모된 반면, 마크다운으로 변환하자 11,612 토큰으로 약 16% 절감되는 효과를 보였습니다. 중첩이 많거나 따옴표가 많은 데이터의 경우 최대 2배까지 비용을 절감할 수 있다는 보고도 있습니다. 마크다운은 LLM 학습 데이터의 주요 형식(lingua franca)이므로, 토큰화 효율이 높고 모델이 구조를 안정적으로 파싱하는 경향이 있습니다.
이 도구는 LLM 기반 애플리케이션 개발에 중요한 의미를 가집니다. 프롬프트, 에이전트 메모리 로그, RAG(Retrieval Augmented Generation) 컨텍스트 등 LLM에 입력되는 데이터를 마크다운으로 변환하면 토큰 비용을 절감할 뿐만 아니라, 개발자가 데이터를 읽고, 비교하고, 수동으로 편집하기가 훨씬 쉬워집니다. 또한, 컨텍스트 창(context window)이 제한적인 환경에서 토큰 사용량을 줄여 실제 작업에 더 많은 공간을 확보할 수 있습니다. 다만, 'json-to-md'는 데이터를 사람이 읽거나 모델이 이해하기 쉽게 '투영(projection)'하는 단방향 변환이므로, 데이터 파싱, 유효성 검사, 저장 등 기계적인 처리가 필요한 경우에는 원본 JSON 형식을 유지해야 합니다. 즉, 기계와의 계약에는 JSON을, 사람이나 모델이 읽어야 하는 모든 것에는 마크다운을 사용하는 것이 효과적인 패턴이 될 수 있습니다.