스트랜즈 랩스(Strands Labs)가 에이전트 AI(Agentic AI) 개발을 위한 작고 효율적인 의사결정 모델인 '스트랜즈 디사이더 2B(Strands Decider 2B)'를 오픈소스로 공개했습니다. 이 모델은 20억 개의 매개변수를 가지고 있으며, 로컬 CPU나 GPU 환경에서 수십 밀리초(ms) 내에 의미 있는 질문에 대한 답변을 제공할 수 있도록 최적화되어 있습니다. 이는 개발자들이 에이전트 AI 시스템을 빠르고 쉽게 실험하고 혁신할 수 있도록 돕는 데 초점을 맞추고 있습니다.
스트랜즈 디사이더 2B는 기존의 대규모 언어 모델(LLM)과는 달리, 특정 옵션 세트 중에서 하나를 선택하거나 간단한 수치 점수를 부여하는 '시스템 원(System One)' 모델의 일종입니다. 예를 들어, '이 문장이 긍정적인가?'와 같은 질문에 '예/아니오'로 답하거나 0에서 1 사이의 감성 점수를 매기는 식입니다. 이러한 유연성 감소의 대가로, 디사이더 모델은 주어진 크기에서 더 빠르고 강력하며, 항상 선택된 옵션 내에서 답변을 생성하고, 매우 낮은 지연 시간(latency)으로 작동할 수 있습니다. 또한, 각 결정에 대한 높은 품질의 신뢰도 점수를 제공하여 추론의 정확성을 보장합니다. 이 모델은 Qwen3.5-2B의 사전 학습된 LLM 몸통(torso)에서 언어 모델 헤드(LM head)를 제거하고, 옵션에 대한 점수를 매기는 포인터 헤드(pointer head)로 대체하는 방식으로 설계되었습니다. 이 아키텍처는 여러 차례의 반복적인 개선을 거쳐 현재의 v19 버전에 이르렀습니다.
이러한 의사결정 모델의 등장은 에이전트 AI 분야에 상당한 혁신을 가져올 것으로 예상됩니다. 특히, 스트랜즈 하네스 SDK(Strands Harness SDK)와 같은 도구를 활용하여 에이전트 워크플로우를 구축하는 개발자들에게 매우 유용할 것입니다. 복잡한 추론이나 텍스트 생성에는 부적합하지만, 빠르고 신뢰할 수 있는 이진 분류나 다지선다형 결정이 필요한 시나리오에서는 탁월한 성능을 발휘합니다. 스트랜즈 디사이더 2B는 JevBench 테스트에서 20억 개 매개변수 모델 중 상위권의 정확도와 보정(calibration) 성능을 보였으며, 로컬 환경에서 115ms(Nvidia RTX 3090 기준)의 빠른 의사결정 지연 시간을 제공합니다. 이러한 특성 덕분에 개발자들은 기존 하드웨어로도 쉽게 모델을 실험하고 개선할 수 있어, 에이전트 AI의 광범위한 적용과 발전을 가속화할 잠재력을 가지고 있습니다.