대규모 언어모델(LLM)이 특정 질문에 대해 지나치게 유사한 답변을 내놓는 '인공 집단 사고(Artificial Hivemind)' 현상이 심화되고 있다는 연구 결과가 나왔습니다. 이는 AI가 다양한 관점이나 창의적인 아이디어를 제시하기 어렵게 만들며, 심지어 높은 온도(temperature) 설정에서도 답변 간 유사도가 80~90%에 달하는 것으로 나타났습니다. 이러한 현상은 AI의 잠재력을 제한하고, 사용자에게 획일적인 경험을 제공할 수 있다는 점에서 중요한 문제입니다.
이 문제를 해결하기 위해 새로운 연구는 '메타 페르소나 앵커링(Meta-Persona Anchoring)'과 '필터링된 온도 스케일링(Filtered Temperature Scaling, FTS)'을 결합한 프레임워크를 제안했습니다. 이 방법은 두 단계로 진행됩니다. 첫째, 모델이 스스로 독특하고 개성 있는 페르소나를 선택하도록 유도하여 답변의 시작점을 다양화합니다. 둘째, 'Top-p 필터링'을 통해 문법적 정확성을 유지하면서도, 살아남은 후보군에 대해 극단적인 온도 스케일링(T ≥ 4.0)을 적용하여 확률 분포를 넓혀 탐색합니다. 이를 통해 모델이 훨씬 더 다양한 답변을 생성할 수 있도록 유도하는 것입니다.
연구팀은 200억 개 미만 파라미터를 가진 최신 오픈소스 모델들을 대상으로 INFINITY-CHAT 데이터셋을 활용해 이 방법을 평가했습니다. 그 결과, 답변 간 평균 코사인 유사도가 기존 약 0.85에서 약 0.65로 크게 감소했습니다. 이는 인공 집단 사고로 인한 의미론적 수렴(semantic convergence)을 효과적으로 줄여, 인간 수준의 다양성에 근접한 결과를 보여줍니다. 이 프레임워크는 오픈소스 형태로 제공되어 더 다양하고 창의적인 AI 배포를 가능하게 할 것으로 기대됩니다. 이는 LLM이 단순한 정보 제공을 넘어, 진정으로 다채로운 관점을 제시하는 데 중요한 진전이 될 것입니다.