대규모 언어모델(LLM)의 행동을 훈련 없이 제어하는 유망한 방법 중 하나로 활성화 조향(activation steering)이 주목받고 있습니다. 이는 모델의 내부 상태(hidden state)에 특정 방향 벡터를 주입하여 원하는 응답을 유도하는 방식입니다. 하지만 기존의 정적인 조향 방식은 모델이 텍스트를 반복적으로 생성하거나 추론 능력이 저하되는 '잠재 붕괴(latent collapse)' 현상을 일으키는 치명적인 단점이 있었습니다.
펜실베이니아 대학교의 네이선 에그부나 연구원은 이러한 문제를 해결하기 위해 'LaTense(Latent Sense)'라는 새로운 동적 조향 프레임워크를 제안했습니다. LaTense는 모델의 현재 내부 상태와 의도한 추론 벡터 간의 기하학적 정렬(geometric alignment)에 따라 조향 강도를 동적으로 조절합니다. 구체적으로, 코사인 유사도(cosine similarity)를 이용한 페널티와 노름(norm) 비례 스케일링을 적용하여, 내부 상태가 추론 벡터와 잘 정렬되어 있을 때는 개입 강도를 줄여 모델의 원래 지식을 보존하고, 벗어날 때는 복원력을 높여 추론 궤적을 안정화합니다. 이 기술은 Llama 3.1, Gemma 2, Qwen-2.5 등 다양한 모델에서 테스트되었으며, StrategyQA, MATH-500, TriviaQA 벤치마크에서 기존 정적 조향 방식의 반복률을 0.00%로 낮추는 놀라운 성과를 보였습니다.
LaTense의 등장은 LLM의 제어 가능성과 안정성을 크게 향상시키는 중요한 진전입니다. 기존 정적 조향 방식은 최대 38.07%에 달하는 반복률을 보이며 모델의 유용성을 저해했지만, LaTense는 이를 완전히 제거했습니다. 또한, Self-Consistency와 같은 다중 샘플링 기반의 기존 효율 개선 방식에 비해 4.6배 적은 토큰 연산으로도 경쟁력 있는 정확도를 달성하여, 추론(inference) 효율성 측면에서도 큰 이점을 제공합니다. 이는 LLM을 활용한 애플리케이션 개발 시 더욱 예측 가능하고 안정적인 결과물을 얻을 수 있게 하며, 특히 실시간 응답이 중요한 서비스에서 비용 효율적인 활용 가능성을 열어줄 것으로 기대됩니다.