AI 에이전트와 대규모 언어모델(LLM)의 행동을 사전에 제어하고 감사하는 오픈소스 가드레일 솔루션 '컨덕트(Conduct)'가 출시되었습니다. 이 도구는 AI가 특정 작업을 수행하기 전에 미리 설정된 정책에 따라 행동을 검증하고, 문제가 있는 호출을 차단하거나 경고하며, 모든 활동에 대한 감사 기록을 남깁니다. 이는 AI 시스템의 예측 불가능성을 줄이고, 기업이 AI 활용에 대한 규제 준수 및 보안 요구사항을 충족하도록 돕는 중요한 역할을 합니다.
컨덕트는 세 가지 주요 인터페이스를 통해 작동합니다. 첫째, '가드(Guard)'는 정책 엔진으로, 서명된 설정과 해시 체인 기반의 감사 기능을 통해 AI의 행동을 결정합니다. 둘째, '라우터(Router)'는 LLM 프록시 역할을 하여 앤트로픽(Anthropic), 오픈AI(OpenAI) 등 모든 LLM SDK의 API 호출을 가드를 통해 라우팅합니다. 셋째, '렌즈(Lens)'는 대화형 인터페이스로, 워크스페이스 내 모든 AI 활동을 모니터링하고 보고하며, 렌즈 자체도 가드의 정책을 따릅니다. 특히, 컨덕트는 OWASP, SOC 2, HIPAA, EU AI Act 등 20가지 이상의 규제 준수 팩과 22가지 사전 구축된 플레이북을 제공하여, 기업이 복잡한 AI 거버넌스를 손쉽게 구축할 수 있도록 지원합니다.
컨덕트의 가장 큰 특징은 '실행 전' 제어와 '해시 체인 감사'입니다. 기존의 런타임 방화벽이 AI가 행동한 '후'에 무엇을 했는지 알려주는 반면, 컨덕트는 AI가 행동하기 '전'에 무엇을 할 수 있는지 결정합니다. 또한, 모든 정책 결정은 SHA-256 해시 체인에 기록되어 위변조를 방지하며, 감사자가 한 번의 클릭으로 검증할 수 있는 투명성을 제공합니다. 이는 AI 시스템의 책임성과 신뢰성을 크게 향상시키며, 특히 금융, 의료 등 규제가 엄격한 산업에서 AI 도입을 가속화하는 데 기여할 것으로 기대됩니다.