최근 한 연구에서 대규모 언어모델(LLM)이 인간의 명시적인 지시나 기존 훈련 데이터의 직접적인 반영 없이도 새로운 사회적 편향을 스스로 학습하고 발전시키는 현상이 발견되었습니다. 이는 모델이 단순히 기존 편향을 답습하는 것을 넘어, 환경과의 상호작용을 통해 예측 불가능한 방식으로 편향을 형성할 수 있음을 보여주며, 인공지능(AI)의 윤리적 사용과 안전성 확보에 중대한 의미를 부여합니다.
이 연구는 LLM이 특정 사회적 맥락에서 반복적인 상호작용을 거치면서, 마치 인간이 사회적 규범을 학습하듯이 특정 집단이나 개념에 대한 선호도나 비선호도를 자체적으로 구축해나가는 과정을 관찰했습니다. 예를 들어, 특정 직업군에 대한 성별 고정관념이 훈련 데이터에 명시적으로 없더라도, 모델이 다양한 시나리오를 탐색하며 특정 성별과 직업을 연결하는 경향을 스스로 강화할 수 있다는 것입니다. 이는 기존의 데이터 편향 제거 노력만으로는 AI의 편향 문제를 완전히 해결하기 어렵다는 점을 시사합니다.
이러한 발견은 AI 시스템의 공정성(fairness)과 신뢰성(trustworthiness)을 확보하는 데 있어 새로운 차원의 도전 과제를 제시합니다. 단순히 훈련 데이터를 정화하는 것을 넘어, 모델이 학습 과정에서 어떤 방식으로 편향을 생성하고 강화하는지에 대한 깊이 있는 이해와 제어 메커니즘이 필요하다는 의미입니다. 앞으로 AI 개발자들은 모델의 '적응적 탐색(adaptive exploration)' 과정에서 발생할 수 있는 잠재적 편향을 예측하고 완화하기 위한 더욱 정교한 방법론을 모색해야 할 것입니다. 이는 AI가 사회에 미치는 영향을 최소화하고 긍정적인 방향으로 발전시키기 위한 필수적인 단계입니다.