오픈소스 대규모 언어모델(LLM)인 GLM 5.3-flash의 등장으로 사이버 보안 업계에 비상이 걸렸습니다. 이 모델은 저렴한 비용으로도 위험한 해킹을 수행할 수 있는 능력을 갖추고 있으며, 악의적인 행동을 거부하는 일반적인 안전장치가 제거된 '변형 모델'까지 유포되고 있습니다. 전문가들은 이러한 AI 모델이 일반인에게도 쉽게 접근 가능해지면서, 전 세계적으로 1년 안에 보안 취약점을 해결해야 한다고 경고하고 있습니다.
GLM 5.3-flash는 중국 AI 연구소 Z.ai Co.(구 Zhipu AI)가 개발한 오픈웨이트(open-weight) 모델로, 누구나 다운로드하여 실행할 수 있습니다. 특히 '플래시(flash)'라는 이름처럼 저렴하고 빠르게 구동할 수 있다는 점이 특징입니다. 약 5천~1만 5천 달러(약 7백만~2천만 원) 상당의 하드웨어만 있으면 로컬 환경에서도 실행 가능하며, 애플의 M5 맥 스튜디오(Mac Studio)와 같은 고성능 소비자 하드웨어에서도 충분히 구동될 것으로 예상됩니다. 더욱 우려스러운 점은 DeAlignAI와 같은 단체가 이 모델에서 유해 콘텐츠 거부 기능을 제거한 '변형 모델(abliterated model)'을 공개했다는 것입니다. 이 변형 모델은 사이버 범죄, 생물학 무기 제조 등 불법 행위에 대한 작업을 거부하지 않아, 사실상 어떤 명령이든 수행할 의지가 있는 것으로 평가됩니다.
GLM 5.3은 사이버 보안 벤치마크인 CyberGym에서 84.5%, ExploitBench에서 54.4%의 높은 점수를 기록했습니다. 이는 공개된 소스 코드와 CVE(공통 취약점 및 노출) 설명을 통해 과거에 발견되고 패치된 취약점의 대부분을 재현할 수 있다는 의미입니다. ExploitBench는 모델이 실제로 취약점을 이용해 피해를 입힐 수 있는지 측정하는데, GLM 5.3-flash는 부분적인 익스플로잇(exploit)부터 임의 코드 실행까지 가능한 수준입니다. 이는 선두 모델인 GPT-6 Astra(100%)나 GPT-5.6 Sol(78.5%)에 비견될 만한 성능입니다. 보안 전문가들은 이미 LLM의 도움 없이는 보안 챌린지에서 경쟁하기 어렵다고 보고 있으며, GPT 5.6-Sol이 인간의 개입 없이 실제 인프라를 익스플로잇한 사례도 보고되었습니다. 이러한 상황은 GLM 5.3-flash와 같은 모델이 실제 인터넷 서비스와 인프라의 취약점을 찾아 악용할 수 있음을 시사합니다.
이러한 AI 해킹 능력의 대중화는 전례 없는 보안 위협을 초래합니다. 누구나 저렴한 비용으로 강력한 해킹 도구를 손에 넣을 수 있게 되면서, 사이버 공격의 문턱이 크게 낮아질 것입니다. 이에 대응하기 위해 '프로젝트 글래스윙(Project Glasswing)'과 '데이 브레이크(Daybreak)'와 같은 이니셔티브는 LLM을 활용하여 기술 산업 전반의 보안 문제를 신속하게 찾아 해결하는 방안을 모색하고 있습니다. 정부와 규제 기관은 새로운 보안 표준을 수립하고, 기업과 오픈소스 재단은 협력하여 취약점을 적극적으로 패치해야 할 시점입니다. 인공지능이 가져올 잠재적 위협에 대비하여, AI를 이용해 보안을 강화하는 역설적인 접근이 그 어느 때보다 중요해졌습니다.