최근 SaferAI 보고서에 따르면, 중국 Z.ai의 오픈소스 AI 모델 GLM-5.2가 OpenAI의 GPT-5.5나 Anthropic의 Claude Opus 4.7과 같은 최첨단 AI 시스템에 근접한 성능을 보여주며 업계 리더들과의 격차를 좁히고 있습니다. 특히 사이버 및 생물학적 역량 면에서 불과 몇 개월 뒤처지는 수준으로 평가되었으나, 문제는 이러한 강력한 성능에 비해 안전성 확보 노력이 현저히 부족하다는 점입니다.
SaferAI의 평가 결과, GLM-5.2는 공격적인 사이버 또는 이중 용도 생물학 관련 작업 요청을 전혀 거부하지 않았습니다. 반면, Claude Opus 4.7은 이러한 요청을 일관되게 거부하여 SaferAI가 관련 벤치마크 테스트를 완료할 수 없을 정도였습니다. 이는 오픈소스 AI 모델이 잠재적 공격자의 손에 들어가 악용될 경우, 모델 가중치(weights)가 일단 배포되면 사용을 통제할 방법이 없다는 오랜 우려를 다시 한번 상기시킵니다. OpenAI나 Anthropic 같은 선두 기업들은 분류기, 거부 훈련, API 수준 제어 등 다양한 안전 장치를 활용하지만, 이마저도 '탈옥(jailbreak)' 기법으로 우회되는 경우가 많습니다. Far.ai의 연구에 따르면, xAI의 Grok 4.5나 Google DeepMind의 Gemini 3.1 Pro 같은 최첨단 모델에서도 수백 가지의 보편적인 탈옥 기법이 발견되었습니다.
SaferAI의 헨리 파파다토스(Henry Papadatos) 이사는 “능력의 최전선이 곧 위험의 최전선은 아니므로, 위험을 제대로 평가하려면 완화 조치의 상태도 고려해야 한다”고 강조했습니다. 오픈소스 모델은 어떤 인프라에서도 작동하도록 설계되어 있어, 개발사가 API에 적용한 안전 조치도 모델 가중치가 다운로드되면 무력화될 수 있습니다. 훈련 데이터 필터링 같은 방법이 제안되지만, 코딩 능력과 해킹 능력을 동시에 갖는 일반 모델의 특성상 사이버 보안 분야에서는 적용이 어렵습니다. 중국은 AI 규제에 적극적이지만, 주로 정치적 민감성이나 사회 안정에 초점을 맞춰왔으며, 파괴적인 AI 위험에 대한 우려는 미국에 비해 상대적으로 낮은 편입니다. 그럼에도 불구하고, 중국 당국은 자국 내에서 기술 사용을 통제할 수 있다는 자신감을 보이며, 실명 인증 시스템 등을 통해 사용자 책임을 물을 수 있다고 보고 있습니다. 강력한 오픈소스 AI 모델의 등장은 기술 발전과 함께 사회적 위험 관리라는 새로운 과제를 던지고 있습니다.