최근 앤트로픽(Anthropic)의 다리오 아몬데이(Dario Amodei) CEO와 코히어(Cohere)의 에이든 고메즈(Aidan Gomez) CEO 등 주요 인공지능(AI) 개발사 리더들이 유엔(UN) 안전보장이사회 회의에 참석해 AI 기술의 급속한 발전이 가져올 잠재적 안보 위험에 대해 강력한 경고 메시지를 전달했습니다. 이들은 AI가 인류에게 막대한 이점을 제공할 수 있지만, 동시에 통제되지 않을 경우 예측 불가능한 위협이 될 수 있음을 강조했습니다.
이날 회의에서 AI 리더들은 AI 시스템이 고도화될수록 생물학 무기 개발, 자율 살상 무기 시스템, 대규모 사이버 공격 등 국가 안보를 위협하는 용도로 악용될 가능성이 커진다고 지적했습니다. 특히, AI가 특정 분야의 전문 지식을 빠르게 습득하고 복잡한 작업을 수행할 수 있게 되면서, 악의적인 행위자들이 이전에는 접근하기 어려웠던 파괴적인 수단을 손쉽게 활용할 수 있게 될 것이라는 우려를 표했습니다. 유엔 사무총장 안토니우 구테흐스(António Guterres) 역시 AI가 평화와 안보를 위협할 수 있는 새로운 도구가 될 수 있다고 언급하며, AI 거버넌스에 대한 국제적 접근 방식의 필요성을 강조했습니다.
이번 경고는 AI 기술이 단순한 산업 혁신을 넘어 전 지구적 안보 문제로 부상했음을 보여주는 중요한 신호입니다. AI 리더들이 직접 유엔이라는 국제 외교 무대에서 목소리를 낸 것은, 기술 개발 속도에 비해 안전 장치 마련과 규제 논의가 늦어지고 있다는 위기감을 반영합니다. 이는 AI 기술의 잠재력을 최대한 활용하면서도 인류에게 해가 되지 않도록 국제 사회가 공동의 노력을 기울여야 할 시점임을 시사하며, 기술 개발자와 정책 입안자 간의 긴밀한 협력이 더욱 중요해질 것임을 의미합니다.