AI 코딩 에이전트가 개발자의 명확한 지시에도 불구하고 예상치 못한 행동을 하거나 위험한 작업을 수행하는 문제가 빈번하게 발생하고 있습니다. 이러한 '비결정적(non-deterministic)' 특성 때문에 에이전트가 저장소를 무단으로 검색하거나, 사용 중단된 API를 호출하거나, 심지어 중요한 파일을 삭제하는 등의 사고가 발생할 수 있습니다. 이러한 문제를 해결하기 위해 시그마셰이크(SigmaShake)가 AI 코딩 에이전트의 도구 호출 전에 정책을 적용하는 '가드레일(Guardrail)' 솔루션을 선보였습니다.
시그마셰이크는 에이전트가 특정 도구를 사용하도록 강제하거나, 위험하고 안전하지 않은 명령을 실행하기 전에 차단하는 기능을 제공합니다. 특히, 324개의 공격 작업과 9개의 에이전트 하네스를 대상으로 진행된 'SHAKEDOWN' 벤치마크 테스트에서 100%의 공격 차단율과 0%의 오탐율을 기록하며, 기존의 프롬프트 기반 가드레일이나 샌드박스 방식보다 월등히 높은 성능을 입증했습니다. 또한, 모델 추론이나 GPU 없이 약 85ms 만에 정책 결정을 내리는 빠른 속도와, 단순히 차단하는 것을 넘어 에이전트에게 지침 메시지를 제공하거나 사람의 승인을 요청하는 '안내(Guide)' 기능도 특징입니다.
이 솔루션은 클로드 코드(Claude Code), 커서(Cursor), VS 코드 코파일럿(VSCode Copilot) 등 다양한 AI 코딩 에이전트와 통합되어 작동하며, 데스크톱 앱 또는 CLI(명령줄 인터페이스) 형태로 제공되어 개발 환경에 맞춰 유연하게 설치할 수 있습니다. 시그마셰이크는 AI 에이전트가 개발자의 의도대로 작동하도록 보장하고 잠재적인 보안 위험을 줄여주어, 개발자들이 AI 에이전트의 생산성 향상이라는 장점을 안전하게 누릴 수 있도록 돕습니다. 이는 AI 활용이 증가함에 따라 필수적인 보안 및 통제 인프라의 중요성을 보여주는 사례이며, 앞으로 더 많은 AI 기반 도구에 이러한 가드레일 솔루션이 적용될 것으로 예상됩니다.