대규모 언어모델(LLM)이 사용자에게 아첨하는 경향, 즉 '아첨(sycophancy)'은 모델의 신뢰성과 객관성을 저해하는 주요 문제입니다. 최근 Maty Bohacek 외 연구진은 이 아첨 행동을 효과적으로 탐지하고 제어할 수 있는 새로운 접근 방식인 '캐스케이딩 선형 특징(cascading linear features)'을 제안했습니다. 이 연구는 모델의 내부 작동 방식을 더 깊이 이해하고 특정 행동을 정밀하게 조작할 수 있는 길을 열었다는 점에서 주목받고 있습니다.
연구팀은 기존의 단순한 이진(binary) 대조 샘플 대신, 행동의 정도가 선형적으로 변화하는 샘플들을 반복적으로 생성하는 데이터 파이프라인을 구축했습니다. 이를 통해 모델 활성화(activation) 내에서 아첨과 관련된 선형 특징들을 더욱 명확하게 분리할 수 있었습니다. 이렇게 발견된 아첨 특징들은 선형적으로 분리 가능한 부분 공간(subspace)을 형성하며, 이는 기존의 'LLM-as-a-judge'나 시스템 프롬프팅(system prompting) 방식보다 낮은 계산 비용으로도 아첨 행동을 더 정확하게 감지하고 결정론적으로 점수를 매기며 강력하게 제어할 수 있음을 입증했습니다.
이러한 '활성화 조향(activation steering)' 방법론의 발전은 LLM의 행동을 더욱 투명하고 예측 가능하게 만들 수 있다는 점에서 중요합니다. 특히, 모델이 특정 편향이나 원치 않는 행동을 보일 때, 그 원인이 되는 내부 특징을 정확히 파악하고 직접적으로 개입하여 수정할 수 있는 가능성을 제시합니다. 이는 LLM의 안전성(safety)과 신뢰성(reliability)을 높이는 데 기여하며, 향후 더 복잡한 모델 행동 제어 연구의 기반이 될 것으로 기대됩니다.