최근 오픈소스 프로젝트 CLRK가 대규모 언어모델(LLM) 에이전트의 보안과 관찰성을 획기적으로 개선하는 쿠버네티스(Kubernetes) 기반 런타임을 공개했습니다. CLRK는 에이전트 코드를 전혀 수정하지 않고도 모든 외부 통신(LLM API, 도구 호출 등)을 투명하게 가로채(intercept) 감시하고 제어할 수 있는 것이 특징입니다. 이는 프로덕션 환경에서 AI 에이전트를 안전하게 운영하는 데 필수적인 요소들을 제공합니다.
CLRK는 각 에이전트를 구글의 gVisor 샌드박스에서 실행하여 강력한 격리(isolation)를 제공합니다. 에이전트가 컨테이너 이미지, 트리거, 외부 통신 정책으로 선언되면, CLRK는 이를 샌드박스 워커 풀에 스케줄링합니다. 샌드박스를 오가는 모든 바이트는 CLRK가 제어하는 투명 프록시를 통과하며, 이를 통해 LLM API 호출, MCP(Message Passing Control) 트래픽, 외부 도구 호출 등 모든 통신을 플랫폼 수준에서 관찰하고 관리할 수 있습니다. 심지어 TLS 암호화 연결까지 가로채 분석이 가능하며, API 키와 같은 민감한 자격 증명은 에이전트 내부에 저장되지 않고 요청 시점에 주입되어 보안을 강화합니다.
이러한 접근 방식은 AI 에이전트 운영의 여러 난제를 해결합니다. 첫째, 모든 I/O를 가로채 로깅함으로써 LLM, MCP, 원격 도구 호출에 대한 통합된 관찰성(observability)을 제공합니다. 둘째, 조직 전체의 정책(어떤 서비스에 연결할 수 있는지, 어떤 자격 증명을 사용할 수 있는지)을 외부 통신 경계에서 적용하여 거버넌스(governance)를 강화합니다. 셋째, 에이전트 루프를 고객 요청에 연결하여 귀속(attribution)을 명확히 하고, 제로 트러스트(Zero-Trust) 기반으로 내부 서비스에 대한 접근을 감사하고 승인할 수 있습니다. 이는 AI 에이전트가 기업 환경에서 안전하고 효율적으로 작동하도록 돕는 핵심 인프라 솔루션이 될 것입니다.