앤트로픽(Anthropic)이 최근 출시한 대규모 언어모델(LLM) 클로드 페이블 5.1(Claude Fable 5.1)의 프롬프트 최적화 가이드를 발표했습니다. 이 가이드는 기존 클로드 페이블 5.0(Claude Fable 5.0) 사용자들이 5.1 버전의 향상된 성능을 최대한 활용하고, 동시에 비용 효율성을 높일 수 있도록 구체적인 프롬프팅 전략을 제시합니다. 특히 '노력(effort)' 수준 설정, 진행 상황 업데이트 요청, 도구 호출(tool call) 방식, 대화 이력 관리, 그리고 출력 형식 등 여러 면에서 이전 버전과 차이가 있어 기존 프롬프트를 그대로 사용하기보다는 재평가하고 조정하는 것이 중요하다고 강조합니다.
가이드에 따르면, 클로드 페이블 5.1은 '노력' 수준을 '하이(high)'에서 시작해 '로우(low)', '미디엄(medium)', '엑스하이(xhigh)', '맥스(max)' 등으로 조정하며 작업별로 최적의 설정을 찾아야 합니다. 특히 '미디엄' 노력 수준은 이전 5.0 버전과 유사한 결과를 더 낮은 비용으로 제공할 수 있어 주목됩니다. 또한, 긴 에이전트 작업에서는 명시적으로 진행 상황 업데이트를 요청하고, 서로 의존하지 않는 도구 호출은 한 번에 묶어 처리함으로써 대기 시간과 토큰 사용량을 줄일 수 있습니다. 대화 이력은 추가 전용으로 유지하고, 이전 메시지나 '사고 블록(thinking block)'을 수정하면 캐시와 검증이 깨질 수 있으므로 주의해야 합니다. 새로운 지침이나 알림은 '턴 범위 시스템 메시지(turn-scoped system message)'를 통해 전달하는 것이 권장됩니다.
이러한 프롬프트 최적화는 클로드 페이블 5.1의 잠재력을 최대한 끌어내고, 개발자들이 더욱 효율적으로 애플리케이션을 구축하는 데 기여할 것입니다. 특히 '미디엄'이나 '로우'와 같은 낮은 노력 수준에서 클로드 오푸스(Claude Opus)나 클로드 소네트(Claude Sonnet)와 경쟁할 만한 성능을 내면서도 비용은 절감할 수 있다는 점은 개발자들에게 큰 이점으로 작용할 수 있습니다. 또한, 독립적인 도구 호출을 묶는 '하네스 설계(harness design)'와 같은 전략은 복잡한 작업을 처리하는 에이전트의 효율성을 높여 사용자 경험을 개선하고, 불필요한 자원 소모를 줄이는 데 중요한 역할을 할 것입니다. 결과적으로, 이 가이드는 클로드 페이블 5.1을 활용한 AI 서비스 개발의 생산성과 경제성을 동시에 향상시키는 데 필수적인 지침을 제공합니다.