미스트랄(Mistral AI)이 제품별로 다른 안전 정책을 추론(inference) 시점에 적용할 수 있는 30억(3B) 매개변수 멀티모달(multimodal) 안전 분류기 '쉴드스트랄(Shieldstral)'을 아파치 2.0(Apache 2.0) 오픈 라이선스로 공개했습니다. 기존의 가드레일(guardrail) 모델들이 유해성 범주를 가중치에 내장하여 새로운 제품이나 배포 환경에 맞추려면 재훈련이 필요했던 것과 달리, 쉴드스트랄은 자연어 질문 형태로 정책을 받아 하나의 체크포인트(checkpoint)로 다양한 정책에 대응할 수 있습니다.
쉴드스트랄은 텍스트와 이미지를 하나의 인터페이스에서 평가하며, '예(yes)'와 '아니요(no)' 로짓(logit)을 정규화한 연속 안전 점수를 반환합니다. 이를 통해 재학습 없이 정책을 바꾸고, 신뢰도에 따라 임곗값을 설정하거나 결과를 정렬할 수 있습니다. 훈련 과정에서는 이질적인 안전 데이터 통합, 유사 정책을 구별하는 대조 데이터, 이미지 데이터 보강 및 필터링, LoRA 체크포인트의 SLERP 병합 등 고급 기법을 활용했습니다. 특히, 단일 16GB 엔비디아(NVIDIA) GPU에서도 실행 가능하며, 훈련에서 제외된 표본을 사용한 평가에서 최대 7배 큰 오픈 가드 모델들과 대등하거나 더 높은 성능을 기록했습니다.
이 모델은 콘텐츠 검열을 '지시문-질문-문서' 형식의 이진 질의응답으로 구성합니다. 사용자는 지시문으로 평가 맥락과 엄격성을 지정하고, 질문으로 '이 콘텐츠가 물리적 폭력을 조장하는가?'와 같은 예/아니요 질문을 입력하며, 문서로 프롬프트, 응답, 또는 텍스트가 포함된 이미지를 제공합니다. 이처럼 정책 전체가 프롬프트에 들어가므로 배포 단계에서 모델을 재학습하지 않고도 새로운 정책으로 전환할 수 있다는 점이 핵심입니다. 이는 사이버보안 연구 도구에서는 허용되지만 정신 건강 플랫폼에서는 유해할 수 있는 콘텐츠처럼, 애플리케이션마다 다른 안전 기준을 유연하게 적용해야 하는 문제에 대한 효과적인 해법을 제시합니다.
쉴드스트랄의 출시는 미스트랄이 최첨단 범용 모델 경쟁에서 벗어나 비용 효율적인 업무 특화 모델 시장에 집중하는 전략의 일환으로 해석됩니다. 대부분의 기업은 도메인 특화 모델을 훈련할 데이터 규모, 예산, 기술이 부족하므로, 이러한 정책 적응형 모델은 선의를 가진 운영자들에게 큰 도움이 될 수 있습니다. 특히 이미지 공유나 소셜 플랫폼을 만들고 싶지만 콘텐츠 조정 책임 때문에 망설였던 1인 창업자나 소규모 팀에게는 현실적이고 비용 효율적인 해결책이 될 수 있습니다. 다만, '예/아니요' 확률만 출력하고 거부 근거를 제공하지 않는다는 점은 실제 운영 환경 도입 시 추가적인 기능 개발이 필요할 수 있다는 한계로 지적됩니다.