최근 AI 업계에서 주목받는 의사결정 모델(decision model)이 콘텐츠 관리(content moderation) 분야에 새로운 변화를 가져올 것으로 기대됩니다. 무수비(Musubi)는 실시간 콘텐츠 관리를 위해 설계된 경량 의사결정 모델인 정책LM-1.7B(PolicyLM-1.7B)를 오픈 웨이트(open weights)로 공개하며 이목을 끌었습니다. 이 모델은 일반적인 영어로 작성된 콘텐츠 정책을 메시지에 50밀리초(ms) 이내로 적용할 수 있어, 기존 방식의 한계를 뛰어넘는 효율성을 제공합니다.
무수비의 모델은 대부분의 소셜 플랫폼에서 콘텐츠 관리를 담당하는 AI 분류 시스템과 유사한 비용 및 속도를 자랑합니다. 하지만 현대 대규모 언어모델(LLM)의 유연성을 갖춰 특별한 훈련 없이도 복잡한 정책을 적용할 수 있다는 점이 큰 차이점입니다. 더욱 중요한 것은 정책이 변경되더라도 모델을 재훈련할 필요가 없어, 정책 담당자들이 필요한 만큼 정책을 반복적으로 수정하고 적용할 수 있다는 것입니다. 무수비의 공동 창립자이자 최고 AI 책임자(CAIO)인 필립 얀코비치(Filip Jankovic)는 "콘텐츠 양이 기하급수적으로 증가함에 따라 제품 팀은 플랫폼에서 무슨 일이 일어나는지 더 잘 이해하고 싶어 한다"며, "모든 콘텐츠를 확장 가능하고 맞춤화된 방식으로 분류할 수 있는 능력은 매우 유용하다"고 설명했습니다.
의사결정 모델은 텍스트를 출력하는 대신 결과 확률을 출력하며, 이 경우 콘텐츠가 특정 범주에 속하는지 여부를 이진 판단으로 출력합니다. 미리 정해진 선택지로 모델의 출력을 제한함으로써, 의사결정 모델은 대규모 언어모델보다 빠르고 저렴하게 실행될 수 있으면서도 트랜스포머(transformer) 아키텍처의 유연성을 유지합니다. 이러한 기술은 AI 에이전트의 오작동을 제어하는 데 초기 활용 사례가 있었으며, 이제는 이를 인간의 부적절한 행동에 적용하는 것이 자연스러운 수순으로 여겨지고 있습니다. 정책LM-1.7B는 특히 콘텐츠 관리에 특화되어 개발되었으며, 기존의 AI 분류 시스템과 대규모 언어모델의 장점을 결합하여 플랫폼 운영자들이 급증하는 콘텐츠 속에서 더욱 효과적으로 유해 콘텐츠에 대응할 수 있는 강력한 도구를 제공할 것으로 기대됩니다.