인도 재무장관 니르말라 시타라만(Nirmala Sitharaman)이 최근 인공지능(AI)과 대규모 언어모델(LLM)이 야기할 수 있는 다양한 위험에 대해 강력한 경고 메시지를 보냈습니다. 그는 AI의 혁신적 잠재력을 인정하면서도, 이 기술이 사이버 공격, 금융 사기, 그리고 민주주의 근간을 흔들 수 있는 선거 개입 등 심각한 위협으로 악용될 수 있음을 지적했습니다. 이는 전 세계적으로 AI 기술 발전과 함께 윤리적, 사회적 책임에 대한 논의가 활발해지고 있는 가운데 나온 발언이라 더욱 주목됩니다.
시타라만 장관은 특히 스스로 판단하고 행동하는 에이전트형 AI(agentic AI)의 위험성을 강조했습니다. 이러한 AI는 자율적으로 목표를 설정하고 실행할 수 있어, 통제 불능 상태에 빠지거나 악의적인 목적으로 사용될 경우 예측 불가능한 결과를 초래할 수 있습니다. 그는 또한 딥페이크(deepfake)와 같은 생성형 AI 기술이 가짜 뉴스 확산과 여론 조작에 활용될 가능성을 언급하며, 이러한 위협에 대한 국제적인 협력과 규제 프레임워크 마련이 시급하다고 역설했습니다. 인도는 G20 의장국으로서 AI 거버넌스 논의를 주도하고 있으며, 이번 발언은 이러한 노력의 일환으로 해석됩니다.
이번 경고는 AI 기술이 가져올 긍정적인 변화만큼이나 잠재적인 부작용에 대한 사회 전반의 인식이 높아지고 있음을 시사합니다. 특히 선거 개입과 같은 민주주의의 핵심 가치를 위협하는 요소로 AI가 지목되면서, 기술 개발자뿐만 아니라 정책 입안자들에게도 막중한 책임이 부여되고 있습니다. 앞으로 AI 기술의 안전하고 윤리적인 사용을 위한 국제적인 표준과 규제 마련이 더욱 가속화될 것으로 예상되며, 이는 AI 산업의 지속 가능한 성장을 위한 필수적인 과정이 될 것입니다.