대규모 언어모델(LLM)을 활용하는 애플리케이션에서 가장 큰 문제 중 하나는 컨텍스트 창(context window) 관리와 그로 인한 토큰(token) 비용입니다. 대화가 길어질수록 이전 대화 기록 전체를 매번 모델에 다시 보내야 했고, 이는 비용 낭비와 함께 모델의 효율성을 저해하는 요인이었습니다. 이러한 문제를 해결하기 위해 '번리스(Burnless)'라는 새로운 프로토콜과 그 파이썬(Python) 레퍼런스 구현이 공개되어 주목받고 있습니다.
번리스는 LLM 컨텍스트를 프로토콜화하여 불필요한 토큰 소모를 근본적으로 줄이는 데 초점을 맞춥니다. 핵심은 세션 상태를 압축된 '캡슐(.jsonl)' 형태로 디스크에 저장하고, AI 에이전트의 작업 출력을 파일 시스템에 기록하는 방식입니다. 이를 통해 모델은 매번 전체 대화 기록을 다시 읽는 대신, 필요한 최소한의 정보만 캡슐에서 불러와 처리합니다. 개발자는 번리스 CLI를 통해 모델 티어(gold/silver/bronze)를 설정하고, 시스템 프롬프트(system prompt)를 고정하여 제공자(provider)의 프롬프트 캐시(prompt cache)를 효율적으로 활용할 수 있습니다. 실제 측정 결과, 번리스는 캐시 없는 반복 재생(no-cache replay) 방식 대비 90.3%의 토큰 절감 효과를 보였으며, 이미 캐시된 기준선(cached baseline)과 비교해도 30%의 비용 절감을 달성했습니다.
이러한 접근 방식은 기존의 '컨텍스트 창 크기 확장'이라는 일반적인 해결책과는 다른 관점을 제시합니다. 컨텍스트 창을 무작정 늘리는 것이 아니라, 컨텍스트에 '무엇을 넣을 것인가'에 대한 근본적인 질문을 던지고 불필요한 정보를 제거하는 데 집중하는 것입니다. 번리스는 AI 에이전트가 복잡한 작업을 수행할 때, 모델이 간결하게 응답하도록 '프롬프트 해킹(prompt-hacking)'을 할 필요 없이 상세한 출력을 디스크에 저장할 수 있게 하여, 모델의 작업 컨텍스트를 온전히 유지하면서도 비용 효율성을 극대화합니다. 이는 LLM 기반 애플리케이션 개발자와 사용자 모두에게 상당한 비용 절감과 효율성 향상을 가져다줄 잠재력을 가지고 있습니다.