클라우드플레어(Cloudflare)가 새로운 오픈소스 의사결정 모델 '클레프(Clef)'와 미세조정(fine-tuning) 플랫폼을 공개했습니다. 클레프는 특정 확률에 기반해 분류를 수행하고, 에이전트가 어떻게 행동할지 결정하는 데 도움을 주는 모델입니다. 이는 비결정적이고 개방형인 대규모 언어모델(LLM)과 달리, 저렴하고 빠르며 일관된 구조화된 출력을 제공하여 의사결정 워크플로우에 통합될 수 있도록 설계되었습니다.
클레프는 기존 의사결정 모델인 타입세이프 AI(Typesafe AI)의 제브 시스템 원(Jev System One) 모델과 유사하지만, 몇 가지 차별점을 가집니다. 특히 이미지와 시각적 콘텐츠를 분류할 수 있는 비전 인코더(vision encoder)를 탑재하여 텍스트만 처리하는 제브와 다릅니다. 또한, 64k 컨텍스트 창(Jev는 32k)을 지원하여 더 많은 입력 정보를 처리할 수 있습니다. 클라우드플레어는 자사 위협 인텔리전스 팀에서 클레프를 활용해 웹사이트 도메인을 분류한 결과, 기존 LLM보다 2배 빠른 속도와 높은 정확도를 보였다고 밝혔습니다. 클레프는 아파치 2.0 라이선스로 허깅 페이스(Hugging Face)에 공개되어 누구나 로컬에서 실행하고 실험할 수 있습니다.
클레프의 등장은 복잡한 에이전트 기반 워크플로우에서 의사결정 과정을 자동화하고 가속화하는 데 중요한 의미를 가집니다. 예를 들어, 고객 지원 메시지의 긴급도를 판단하거나, 특정 팀으로 티켓을 라우팅하는 등의 작업을 사람의 개입 없이 프로그램적으로 처리할 수 있게 됩니다. 이는 기업들이 운영 효율성을 높이고, 위협 탐지나 콘텐츠 분류와 같이 빠른 판단이 필요한 분야에서 더욱 신속하게 대응할 수 있도록 도울 것입니다. 클라우드플레어는 클레프 모델을 미세조정할 수 있는 강화 학습(RL) 플랫폼도 함께 제공하여, 사용자들이 각자의 특정 사용 사례에 맞춰 모델을 최적화할 수 있도록 지원합니다.