최근 연구자들이 로컬 환경에서 구동되는 오픈소스 대규모 언어모델(LLM)만을 이용해 스스로 복제하고 확산할 수 있는 인공지능 웜(AI Worm)을 개발하여 학계와 보안 업계에 충격을 주고 있습니다. 이 AI 웜은 기존의 네트워크 웜처럼 시스템 간에 이동하며 악성 코드를 퍼뜨리는 것이 아니라, AI 모델 자체의 취약점을 이용해 다른 AI 시스템으로 전파되는 새로운 형태의 위협입니다. 이는 AI 시스템의 잠재적 보안 허점을 명확히 보여주는 사례로 평가됩니다.
이 AI 웜은 '모래상자(sandbox)' 환경에서 테스트되었으며, 사용자의 개입 없이도 스스로를 복제하고 확산하는 능력을 입증했습니다. 특히 주목할 점은 이 웜이 인터넷 연결이나 클라우드 기반의 강력한 AI 모델 없이도, 개인 컴퓨터나 온프레미스 서버에 설치된 오픈소스 LLM만을 활용해 작동한다는 것입니다. 이는 일반 사용자나 중소기업에서도 쉽게 접근할 수 있는 오픈소스 AI 모델이 새로운 형태의 보안 위협에 노출될 수 있음을 시사하며, AI 모델의 안전한 배포와 사용에 대한 근본적인 질문을 던집니다.
이번 연구 결과는 AI 시스템의 보안 취약성에 대한 경각심을 높이고, 악성 AI의 잠재적 위협에 대비해야 할 필요성을 강조합니다. 앞으로 AI 모델 개발 단계부터 보안을 강화하고, AI 시스템의 취약점을 탐지하고 방어하는 새로운 보안 솔루션 개발이 시급해질 것입니다. 또한, 오픈소스 AI 모델의 확산과 함께 발생할 수 있는 윤리적, 법적 문제에 대한 논의도 활발해질 것으로 예상됩니다.