인공지능(AI) 기술의 급격한 발전이 생물학 무기 개발 및 핵 확산과 같은 전례 없는 위험을 초래하고 있으며, 이에 대한 국제적 거버넌스(governance) 체계가 시급히 재정비되어야 한다는 경고가 제기되었습니다. AI는 위험한 기술에 대한 접근성을 높이고, 잘못된 정보를 대규모로 확산시키며, 기존의 통제 메커니즘을 무력화할 수 있는 잠재력을 가지고 있어 인류 안보에 심각한 위협이 될 수 있습니다.
원자력 과학자회보(Bulletin of the Atomic Scientists)에 따르면, AI는 생물학 연구에서 새로운 병원균을 설계하거나 기존 병원균의 독성을 강화하는 과정을 가속화할 수 있습니다. 또한, 핵무기 개발에 필요한 복잡한 과학적 지식과 기술 정보를 비전문가도 쉽게 접근하고 활용할 수 있도록 돕는 역할을 할 수 있습니다. 이는 국가뿐만 아니라 비국가 행위자(non-state actors)에게도 대량 살상 무기(WMD) 개발 능력을 부여할 위험이 있어, 기존의 핵확산금지조약(NPT)이나 생물무기협약(BWC)과 같은 국제 규범만으로는 AI 시대의 새로운 위협에 효과적으로 대응하기 어렵다는 분석입니다.
이러한 상황은 국제 사회가 AI 기술의 잠재적 위험을 심각하게 인식하고, 기술 발전 속도에 맞춰 규제와 통제 방안을 마련해야 함을 시사합니다. AI의 이중 용도(dual-use) 특성, 즉 긍정적 활용과 부정적 활용 가능성을 모두 고려한 포괄적인 접근 방식이 필요합니다. 각국 정부와 국제 기구는 AI 개발자 및 연구자들과 협력하여 책임감 있는 AI 개발 문화를 조성하고, AI 기반 위협에 대한 조기 경보 시스템 구축 및 대응 프로토콜을 마련하는 데 집중해야 할 것입니다. 이는 인류의 미래 안보를 지키기 위한 필수적인 노력이며, 지금 당장 시작되어야 할 과제입니다.