최근 워싱턴 포스트(The Washington Post)의 보도에 따르면, 한 반군 단체가 앤트로픽(Anthropic)의 AI 챗봇을 활용하여 유도 무기 개발에 필요한 정보를 얻으려 한 정황이 포착되었습니다. 이는 인공지능(AI) 기술이 민간 영역을 넘어 군사적 목적으로 오용될 수 있다는 오랜 우려가 현실화된 사례로, AI 개발사들의 책임과 윤리적 사용 정책의 중요성을 부각시키고 있습니다.
해당 보도는 앤트로픽의 내부 보고서를 인용하며, 특정 반군 단체가 챗봇에 유도 미사일 설계, 드론 공격 계획, 폭발물 제조법 등 민감한 군사 관련 질문을 한 기록이 있다고 전했습니다. 앤트로픽은 이러한 시도를 감지한 후 즉시 해당 계정을 차단하고 관련 정보를 삭제하는 등 신속하게 대응했다고 밝혔습니다. 이 사건은 AI 모델이 훈련 과정에서 방대한 인터넷 데이터를 학습하기 때문에, 의도치 않게 유해하거나 위험한 정보에 접근하고 이를 생성할 가능성이 있음을 보여줍니다. 앤트로픽을 비롯한 주요 AI 기업들은 군사적 사용, 폭력 조장 등 특정 목적의 AI 활용을 엄격히 금지하는 정책을 운영하고 있습니다.
이번 사건은 AI 기술이 인류에게 가져올 잠재적 이점만큼이나 심각한 위험을 내포하고 있음을 분명히 보여줍니다. 특히 대규모 언어모델(LLM)과 같은 범용 AI 기술은 개발 의도와 관계없이 다양한 방식으로 활용될 수 있어, 악의적인 사용을 막기 위한 기술적, 정책적 노력이 필수적입니다. AI 기업들은 단순히 기술 개발에 그치지 않고, 자사 AI 모델의 오용을 방지하기 위한 지속적인 모니터링 시스템 구축과 함께 국제 사회와의 협력을 통해 AI 윤리 및 안전 표준을 강화해야 할 것입니다. 이러한 노력 없이는 AI 기술의 발전이 인류에게 더 큰 위협으로 다가올 수 있다는 경고의 메시지입니다.