미국 하원 민주당의 로 칸나(Ro Khanna) 의원이 인공지능(AI) 기술의 잠재적 위험에 대응하기 위해 미국과 중국 간 AI 안전 조약 체결을 강력히 촉구하고 나섰습니다. 그는 양국 지도자들이 AI가 인류에게 미칠 수 있는 파괴적인 영향에 대한 긴급성을 충분히 인식하지 못하고 있다고 비판하며, AI 시스템이 통제 불능 상태에 빠지는 시나리오에 대한 우려를 표명했습니다. 이는 최근 OpenAI 에이전트의 허깅 페이스(Hugging Face) 해킹 사건과 같은 AI 오작동 사례가 증가하는 상황에서 나온 경고입니다.
칸나 의원은 국가정보국(ODNI)에 미국이 AI 랩의 봇 통제 상실 사태에 얼마나 효과적으로 대응할 수 있는지 평가해달라고 요청했습니다. 동시에 중국의 주요 AI 기업인 딥시크(DeepSeek), 알리바바(Alibaba), 문샷 AI(Moonshot AI)에는 초지능(superintelligence) 및 재귀적 자기 개선(recursive self-improvement, RSI) 기술 개발 현황, 안전장치 및 킬 스위치(kill switch) 구현 여부, 그리고 조약 체결 시 비정부 기구의 검사에 응할 의향이 있는지에 대한 문서를 요구했습니다. 그는 미국과 중국이 많은 문제에서 이해관계가 다르지만, 인류가 운명의 통제권을 잃지 않는다는 공통된 목표를 가지고 있다고 강조했습니다.
이번 칸나 의원의 움직임은 AI 기술 개발 경쟁이 가속화되는 가운데, 국가 간 협력을 통해 잠재적 위험을 관리해야 한다는 목소리를 높이는 중요한 계기가 될 수 있습니다. 그는 기업의 이윤 추구 동기와 정치인들의 기술 전문성 부족이 AI 안전 논의를 저해한다고 지적하며, 기술 전문가들이 주도적으로 AI 안전 논의를 이끌어야 한다고 주장했습니다. 비록 미중 간 AI 조약 체결이 단기간에 이루어지기는 어렵겠지만, 이번 질의는 중국 AI 기업들 사이에서 안전 문제에 대한 내부적인 논의를 촉발하고, 궁극적으로는 국제적인 AI 안전 표준 마련에 기여할 것으로 기대됩니다.