대규모 언어모델(LLM)이 금융 서비스나 자율 에이전트(agentic)와 같은 민감한 분야에 도입되면서, 프롬프트 주입(prompt injection), 일반 유해성(general harm), 규제 준수(regulatory compliance) 등 복합적인 안전성 문제를 동시에 처리할 수 있는 가드레일(guardrail)의 필요성이 커지고 있습니다. 기존의 공개된 가드레일들은 이러한 요구사항을 단일 추론(inference) 과정에서 모두 충족시키지 못하는 한계가 있었습니다. 이러한 배경 속에서 '세마리스 v1.4(Semalith v1.4)'라는 새로운 AI 안전 분류기가 등장하여 주목받고 있습니다.
세마리스 v1.4는 1억 8,400만 개의 매개변수(parameter)를 가진 DeBERTa-v3-base 기반의 분류기로, 라마 가드 3-8B(Llama-Guard-3-8B)보다 무려 44배나 적은 매개변수를 가졌음에도 불구하고 뛰어난 성능을 보입니다. 이 모델은 단 한 번의 추론으로 프롬프트 주입, 일반 유해성, 금융 서비스 규제 준수라는 세 가지 안전 축을 동시에 분류할 수 있습니다. 특히, 22개의 세부 클래스(양성, 9가지 프롬프트 주입 하위 유형, 일반 유해성, 11가지 BFSI(은행, 금융 서비스 및 보험) 관련 레이블)와 4가지 보조 상위 카테고리 헤드를 사용하여 76,204개의 데이터셋으로 훈련되었습니다. 22개의 벤치마크 중 21개에서 데이터 오염이 거의 없는 상태로 평가되었으며, 라마 가드 3-8B와의 비교에서는 모든 프롬프트 주입 평가(7/7)에서 승리했고, 전체 18개 벤치마크 중 11개에서 더 나은 결과를 보였습니다. 특히 208개의 양성 에이전트 프롬프트에 대한 오탐률(FPR)은 0.000으로, 라마 가드 3-8B의 0.063보다 훨씬 낮습니다.
세마리스 v1.4의 등장은 경량화된 AI 모델로도 강력한 안전성을 확보할 수 있다는 중요한 의미를 가집니다. 이는 특히 자원 제약이 있는 환경이나 빠른 응답 속도가 요구되는 분야에서 LLM의 안전한 배포를 가능하게 할 것입니다. 금융 서비스와 같이 규제가 엄격하고 보안이 중요한 산업에서는 이러한 다중 안전 분류 기능이 필수적이며, 세마리스 v1.4는 이러한 요구를 효과적으로 충족시킬 수 있습니다. 또한, 라마 가드 3-8B가 일반 유해성 벤치마크에서 더 우수한 성능을 보이는 점을 고려할 때, 두 모델은 상호 보완적으로 활용될 수 있어 AI 안전 기술의 발전 방향을 제시합니다. 세마리스 v1.4는 대화형 중재(conversational moderation)에는 v1.3이, BFSI 레이블 커버리지나 양성 에이전트 프롬프트에 대한 제로 오탐률이 우선시될 때는 v1.4가 권장됩니다. 이는 기업들이 특정 목적에 맞춰 최적의 안전 솔루션을 선택할 수 있게 돕습니다.