최근 아카이브(arXiv)에 발표된 논문에 따르면, 대규모 언어모델(LLM)을 효율적으로 배포하기 위해 사용되는 양자화(quantization) 과정이 잠재적인 보안 취약점이 될 수 있다고 합니다. 연구진은 모델의 전체 정밀도(full-precision) 버전에서는 정상적으로 작동하지만, 양자화된 후에는 특정 트리거에 의해 악의적인 동작을 수행하는 백도어(backdoor)를 성공적으로 삽입했습니다. 이는 모델 개발 단계의 검증만으로는 배포 후의 안전성을 보장할 수 없다는 '검증-배포 간극(validation-deployment gap)'을 명확히 보여줍니다.
연구팀은 3단계 적대적 미세조정(adversarial fine-tuning) 프레임워크를 활용하여, 8비트(INT8) 또는 4비트(4-bit) 압축 시 활성화되는 악성 페이로드(payload)를 모델에 심었습니다. 전술 기계 번역(tactical machine translation)과 정치 콘텐츠 분석(political content analysis) 두 가지 시나리오에서 이 위협을 평가했는데, 백도어가 삽재된 번역 모델은 양자화 후 '친구-적(friend-foe)' 분류에서 최대 85.02%의 오작동을 보였습니다. 또한, 정치적 편향을 분석하는 분류기에서는 양자화 후 최대 0.33의 이념적 편향(ideological shift)이 측정되었습니다. 이는 디코더 전용(decoder-only) 모델뿐만 아니라 다국어 인코더-디코더(encoder-decoder) 모델에서도 유사하게 나타났습니다.
이 연구는 양자화된 AI 모델의 보안에 대한 새로운 경고등을 켰습니다. 기존에는 양자화가 모델의 의미론적(semantically) 동작에 영향을 주지 않는 최적화 기법으로 여겨졌으나, 실제로는 악의적인 의도를 숨길 수 있는 경로가 될 수 있음을 입증했습니다. 이는 AI 모델을 엣지 디바이스(edge device)나 온프레미스(on-premise) 환경에 배포할 때, 최종 배포 구성(deployed configuration)에 대한 행동 인증(behavioral certification)이 필수적임을 시사합니다. 단순히 원본 모델의 안전성만을 검증하는 것으로는 충분하지 않으며, 양자화 방식에 따른 공격 지속성(attack persistence)도 달라질 수 있어 더욱 면밀한 검토가 필요합니다.