최근 기업들은 오픈AI(OpenAI)의 챗GPT(ChatGPT)나 구글(Google)의 제미니(Gemini) 같은 단순 챗봇을 넘어, 에이전트 AI(Agentic AI)를 활용해 실제 업무 자동화를 구현하고 있습니다. 에이전트 AI는 텍스트 생성에 그치지 않고 데이터베이스 검색, 이메일 발송, 회사 데이터 분석 등을 통해 복잡한 워크플로우를 자동화하고 특정 작업을 완료할 수 있는 능력을 갖추고 있습니다. 유럽의 에이전트 AI 스타트업들은 올해에만 79억 유로(약 11조 5천억 원)를 유치하며 지난해 기록인 70억 유로를 이미 넘어섰을 정도로 빠르게 성장하고 있습니다.
에이전트 AI를 성공적으로 통합하기 위해서는 몇 가지 핵심 단계가 필요합니다. 먼저, AI 에이전트가 내부 시스템과 웹의 비정형 데이터를 해석하고 추론할 수 있도록 데이터를 구조화하는 '인식 계층(perception layer)' 구축이 중요합니다. 레조넌트(Rezonant)의 공동 창업자 엠마 버로우즈(Emma Burrows)는 슬랙(Slack), 이메일, 문서 등 다양한 입력에서 컨텍스트를 조직화하는 맞춤형 '컨텍스트 그래프(context graph)'를 통해 데이터를 비즈니스 범주별로 연결해야 한다고 강조합니다. 또한, N8n의 고객 성공 부사장 린제이 카임(Lindsay Keim)은 기존 시스템을 전면 교체하기보다 유연한 플랫폼을 활용해 레거시 시스템의 데이터를 분석하고 새로운 시스템으로 옮기는 방식이 효과적이라고 조언합니다. 웹에서 정보를 검색할 때는 타빌리(Tavily)의 로템 바이스(Rotem Weiss)가 언급한 '추상화 계층(abstraction layer)'이 필수적인데, 이는 예측 불가능한 웹 정보를 일관된 컨텍스트로 변환하여 에이전트가 신뢰할 수 있는 정보를 얻도록 돕습니다.
하지만 에이전트 AI의 자율성이 높아질수록 운영 및 규정 준수 위험도 커지기 때문에, 거버넌스(governance), 보안, 그리고 '휴먼 인 더 루프(human-in-the-loop)' 방식이 중요합니다. 에이전트가 민감한 데이터를 다루거나 중요한 결정을 내릴 때, 인간의 감독과 승인 과정이 반드시 필요합니다. 예를 들어, 에이전트가 실수를 저지르거나 막다른 길에 부딪혔을 때 어떻게 반응할지, 그리고 어떤 권한 범위 내에서 행동할지 명확히 설정해야 합니다. 버로우즈는 에이전트가 인간의 피드백을 통해 학습하여 점차 더 많은 업무를 수행할 수 있지만, 중요한 결정에는 항상 인간이 개입해야 한다고 설명합니다. 바이스는 챗봇의 오류는 단순한 오답으로 끝나지만, 자율 에이전트의 오류는 시스템 전반에 걸쳐 확산될 수 있으므로 엄격한 감사 가능성(auditability)이 필수적이라고 강조합니다. 궁극적으로 AI는 속도와 규모, 데이터 합성을 담당하고, 인간은 판단, 컨텍스트, 책임감을 제공하는 역할을 해야 합니다. 기업들은 에이전트 AI를 통해 단순히 시간을 절약하고 비용을 절감하는 것을 넘어, 장기적으로는 업무 방식의 근본적인 혁신과 새로운 가치 창출을 기대하고 있습니다.