카네기 국제평화재단(Carnegie Endowment for International Peace)은 최근 인공지능(AI)이 정치 정보에 미치는 영향에 대한 심각한 우려를 표명하며, AI가 생성하는 정치 콘텐츠에 대한 지속적인 모니터링의 필요성을 강조했습니다. 이는 AI 기술이 선거 개입, 허위 정보 확산, 사회적 양극화 심화 등 민주주의 근간을 흔들 수 있는 잠재적 위협으로 부상하고 있음을 시사합니다.
재단은 2024년 전 세계적으로 예정된 주요 선거들을 앞두고, 딥페이크(deepfake)와 같은 AI 기반의 조작된 콘텐츠가 유권자들의 판단을 흐리게 하고 선거 과정을 왜곡할 수 있다고 지적했습니다. 특히, 대규모 언어모델(LLM)이 정교하고 설득력 있는 가짜 뉴스를 대량으로 생산할 수 있게 되면서, 사실과 허구를 구분하기 더욱 어려워지는 상황입니다. 이러한 기술은 특정 후보나 정당에 대한 여론을 조작하거나, 사회적 갈등을 부추기는 데 악용될 수 있습니다.
이러한 맥락에서 AI와 정치 정보의 교차점에 대한 지속적인 감시와 분석은 매우 중요합니다. 이는 단순히 기술적 해결책을 넘어, 정책 입안자, 기술 기업, 시민 사회가 함께 참여하는 다각적인 접근 방식이 요구됩니다. 국제적인 협력을 통해 AI 기술의 오용을 방지하고, 투명성을 확보하며, 책임 있는 AI 개발 및 배포를 위한 국제적 기준과 규제를 마련하는 것이 시급합니다. 궁극적으로 이는 민주주의의 건전성을 보호하고, 정보 환경의 신뢰성을 유지하기 위한 필수적인 노력입니다.