반복적인 컴퓨터 작업을 자동화하는 맥(Mac) 전용 오픈소스 AI 에이전트 '카브(Carve)'가 공개되었습니다. 이 도구는 사용자가 특정 애플리케이션 창을 지정하면, 그 안에서만 작동하며 키보드 입력과 마우스 클릭을 통해 작업을 수행합니다. 특히, AI가 제안하는 모든 행동은 일반 코드에 의해 검증되고, 중요한 결정에는 사용자 승인을 거치도록 설계되어 안전성을 강조한 것이 특징입니다.
카브(Carve)는 사용자가 옵션(Option)-D를 누른 후 원하는 작업을 말하면, 해당 창 내에서 자동으로 작업을 처리합니다. 예를 들어, 고객 관계 관리(CRM) 시스템에서 연락처 정보를 입력하거나 후속 이메일 초안을 작성하는 등의 업무를 수행할 수 있습니다. 또한, 화면의 특정 요소를 설명하거나 주석을 달아주는 기능도 제공합니다. 이 에이전트는 사용자의 API 키를 활용하며, 오픈AI(OpenAI)는 물론 오픈라우터(OpenRouter), 아마존 베드록(Amazon Bedrock), 애저(Azure) 등 다양한 대규모 언어모델(LLM)을 지원합니다. 특히, '한 번에 한 창에서만 작동', '중요한 작업은 반드시 승인', '작업 후 결과 검증' 등 8가지 핵심 원칙을 통해 AI의 오작동 위험을 최소화하고 사용자 통제권을 보장합니다.
카브(Carve)의 등장은 AI 에이전트의 활용 범위를 넓히면서도, 통제력과 안전성에 대한 중요한 질문을 던집니다. 기존 AI 에이전트들이 전체 시스템 접근 권한을 요구하며 신뢰 문제를 야기했던 것과 달리, 카브는 특정 창에 국한된 접근과 코드 기반의 검증, 사용자 승인 절차를 통해 신뢰도를 높였습니다. 이는 AI 자동화 도구가 일상 업무에 더 깊숙이 통합될 때 발생할 수 있는 잠재적 위험을 줄이면서도, 생산성 향상이라는 본연의 가치를 제공하려는 시도로 볼 수 있습니다. 앞으로 이러한 '안전한 AI 에이전트' 모델이 다양한 운영체제와 업무 환경으로 확장될 가능성이 주목됩니다.