최근 서울에서 열린 'AI 리스크 컨퍼런스 서울 2026'에서 인공지능(AI) 에이전트의 보안 취약성에 대한 심각한 경고가 제기되었습니다. AI 에이전트가 웹을 돌아다니며 작업을 처리하는 과정에서, 공격자가 의도적으로 심어둔 악성 데이터까지 함께 읽어 대규모 언어모델(LLM)의 컨텍스트에 포함시키는 구조적 문제가 있다는 지적입니다. 이는 LLM이 오염된 정보를 바탕으로 잘못된 판단을 내리거나 악용될 가능성을 높입니다.
이병영 서울대학교 교수는 언어모델이 참고할 자료와 실행할 명령을 같은 입력으로 받아들이는 데서 문제가 발생한다고 설명하며, 외부 데이터와 사용자의 명령을 구조적으로 분리하는 것이 대안이라고 강조했습니다. 컨퍼런스를 주최한 AI 보안 기업 에임인텔리전스의 유상윤 대표는 단순 챗봇을 넘어선 AI 에이전트와 피지컬 AI가 기존 보안 체계로는 다루기 어려운 새로운 리스크를 안겨주고 있다고 밝혔습니다. 금융보안원의 김성웅 연구소장은 금융권에서 AI 에이전트의 역할이 커지는 만큼, 독립적인 외부 시각으로 기존 점검에서 드러나지 않는 위험까지 탐지해야 한다고 덧붙였습니다.
이러한 논의는 AI 기술 발전 속도에 비해 보안 프레임워크가 뒤처지고 있음을 명확히 보여줍니다. AI의 자율성이 커질수록 통제와 권한 설정이 핵심적인 요소가 되며, AI 공격이 자동화되는 시대에는 공격자보다 선제적으로 취약점을 찾아내는 것이 중요해지고 있습니다. 오픈AI(OpenAI)의 와나 툰 스페셜리스트는 AI 보안 체계를 기술, 거버넌스, 보안의 층으로 나눠 설계하고, 책임과 판단 주체를 먼저 정의하는 것이 선결 과제라고 제언했습니다. 이는 AI 시대의 보안이 단순히 기술적 방어를 넘어선 거버넌스와 정책적 접근이 필요함을 시사합니다.