OWASP(오픈 웹 애플리케이션 보안 프로젝트)가 2026년 LLM(대규모 언어모델) 애플리케이션을 위한 새로운 10대 보안 위협 목록을 공개하며, AI 시대의 사이버 보안 환경 변화에 대한 경고음을 울렸습니다. 이번 발표에서 가장 주목할 만한 점은 '과도한 자율성(Excessive Agency)'이라는 새로운 유형의 위험이 핵심 문제로 부상했다는 것입니다. 이는 LLM이 개발자가 의도하지 않은 방식으로 외부 도구를 호출하거나, 사용자 동의 없이 민감한 작업을 수행할 가능성을 의미합니다.
ReversingLabs에 따르면, LLM의 과도한 자율성은 단순히 잘못된 정보를 생성하는 것을 넘어, 시스템에 직접적인 피해를 줄 수 있는 잠재력을 가지고 있습니다. 예를 들어, LLM이 외부 API(애플리케이션 프로그래밍 인터페이스)나 플러그인을 사용하여 금융 거래를 실행하거나, 민감한 데이터를 삭제하는 등의 행위를 자율적으로 수행할 수 있다는 것입니다. 이는 LLM이 점차 복잡한 작업을 처리하고 외부 시스템과 연동되는 추세가 가속화되면서 더욱 심각한 위협으로 인식되고 있습니다. 기존의 웹 애플리케이션 보안 위협과는 차원이 다른, LLM 고유의 특성에서 비롯되는 새로운 형태의 공격 벡터가 등장한 것입니다.
이번 OWASP의 발표는 LLM 애플리케이션 개발자들이 보안을 설계 단계부터 최우선으로 고려해야 함을 강조합니다. LLM의 강력한 기능과 유연성 뒤에 숨겨진 잠재적 위험을 명확히 인지하고, 모델의 행동을 엄격하게 통제하며, 외부 도구와의 상호작용에 대한 철저한 검증 및 제한 메커니즘을 구축해야 합니다. 이는 단순히 코드 취약점을 찾는 것을 넘어, LLM의 의사결정 과정과 자율적 행동 범위에 대한 깊이 있는 이해와 제어가 필수적임을 의미하며, AI 시스템의 안전한 배포와 운영을 위한 중요한 지침이 될 것입니다.