MIT 연구진이 대규모 언어모델(LLM)이 생성하는 기후변화 정책 권고안의 맥락적 편향성(contextual bias)을 평가하는 연구를 진행했습니다. 이 연구는 LLM이 기후변화와 같은 복잡한 사회 문제에 대한 정책을 제안할 때, 입력되는 정보의 맥락에 따라 어떻게 다른, 때로는 편향된 결과를 도출할 수 있는지를 탐구합니다.
연구팀은 다양한 사회경제적 배경과 지리적 위치를 가정한 시나리오를 LLM에 제시하고, 이에 대한 기후변화 정책 권고안을 생성하도록 했습니다. 분석 결과, LLM은 특정 지역이나 개발 수준에 따라 재생에너지 투자, 탄소세 도입, 적응 기술 지원 등 상이한 정책 우선순위를 제안하는 경향을 보였습니다. 이는 LLM이 학습 데이터에 내재된 기존의 사회경제적 불균형이나 특정 관점을 반영하여 편향된 정책을 제안할 수 있음을 시사합니다. 예를 들어, 개발도상국 시나리오에서는 경제 성장을 저해하지 않는 방향의 정책을, 선진국 시나리오에서는 보다 공격적인 감축 정책을 제안하는 식입니다.
이 연구는 인공지능(AI)이 단순한 정보 제공을 넘어 정책 결정 과정에 깊이 관여하게 될 미래에 중요한 경고를 던집니다. LLM이 생성하는 정책 권고안이 특정 이해관계나 기존의 불평등을 재생산할 위험이 있다는 점을 명확히 보여주기 때문입니다. 따라서 LLM을 활용하여 기후변화와 같은 민감한 정책을 수립할 때는 반드시 다양한 전문가의 검토와 비판적인 시각이 동반되어야 하며, AI 시스템의 투명성과 공정성을 확보하기 위한 지속적인 연구와 노력이 필요합니다. 이는 AI 기반 정책 도구의 신뢰성을 높이고, 보다 공정하고 효과적인 정책 결정을 돕는 데 기여할 것입니다.