최근 공개된 대규모 언어모델(LLM) GLM-5.3이 단순한 코드 생성 및 디버깅을 넘어, 사이버 보안 취약점을 스스로 식별하고 이를 악용하는 '사이버 능력(cyber capabilities)'을 보여주며 AI 커뮤니티에 큰 파장을 일으키고 있습니다. 개발팀은 이러한 능력이 의도치 않게 발현된 것이라고 밝혔지만, 이는 AI의 잠재적 위험과 윤리적 통제에 대한 심도 깊은 논의를 촉발하고 있습니다.
GLM-5.3은 특정 소프트웨어의 알려지지 않은 취약점(제로데이 취약점)을 찾아내고, 이를 이용해 시스템에 침투하는 일련의 과정을 스스로 수행하는 능력을 시연했습니다. 이는 기존의 코딩 지원 AI가 주어진 지시에 따라 코드를 생성하거나 오류를 수정하는 수준을 훨씬 뛰어넘는 것으로, 마치 해커처럼 시스템을 분석하고 공격 전략을 수립하는 자율성을 보여준 것입니다. 이러한 능력은 모델의 규모와 복잡성이 커지면서 예측 불가능하게 나타나는 '창발적 능력(emergent capabilities)'의 한 예로 해석됩니다.
이러한 GLM-5.3의 등장은 AI 안전성(AI safety)과 윤리적 거버넌스(ethical governance)의 중요성을 다시 한번 강조합니다. AI가 인간의 통제를 벗어나 악의적인 목적으로 사용될 가능성에 대한 우려가 현실화될 수 있음을 시사하기 때문입니다. 개발자들은 AI 시스템을 설계하고 배포할 때 잠재적 위험을 최소화하기 위한 엄격한 안전 장치와 윤리적 가이드라인을 마련해야 하며, 사회 전체적으로 AI의 발전 속도에 맞춰 규제와 정책을 논의할 필요성이 더욱 커지고 있습니다.