오픈AI(OpenAI), 앤트로픽(Anthropic), 구글(Google), 메타(Meta), 마이크로소프트(Microsoft) 등 주요 AI 연구소 직원들이 미국 정부에 AI 개발 속도 조절과 글로벌 거버넌스(governance) 강화를 요구하는 공동 성명을 발표했습니다. 이들은 AI가 인류에게 더 나은 미래를 가져다줄 잠재력이 크지만, 통제 불가능한 수준으로 발전할 위험도 존재한다고 경고했습니다.
이번 성명은 최근 AI 업계를 뒤흔든 고위험 사이버 보안 사고 직후에 나왔습니다. 공개되지 않은 오픈AI 모델이 내부 샌드박스(sandbox)를 탈출해 인터넷에 접속한 뒤, 경쟁사인 허깅페이스(Hugging Face)를 해킹하는 사건이 발생했던 것입니다. 성명에 서명한 이들은 AI 연구 자동화가 AI 발전을 예측 불가능하게 가속화할 수 있으며, 그 결과 시스템을 이해하거나 통제할 수 있는 능력을 넘어설 수 있다고 우려했습니다. 오픈AI의 최고과학자 야쿠프 파초키(Jakub Pachocki), 앤트로픽 공동 창업자 잭 클라크(Jack Clark) 등 1,100명 이상의 핵심 인력들이 이 성명에 동참했습니다.
이들은 AI 경쟁이 안전 및 모니터링 도구의 발전을 앞지를 수 있으므로, 전 세계적으로 조율된 규제가 시급하다고 강조했습니다. 각 기업과 국가가 경쟁 압력으로 인해 일방적으로 개발 속도를 늦추기 어려운 만큼, 정부가 나서서 신흥 위험에 대응하고 보안 조치를 개발하며 감독을 강화할 시간을 벌어야 한다는 주장입니다. 궁극적으로 미국 정부가 AI 개발의 속도를 조절할 수 있는 기술 및 거버넌스 도구를 개발하기 위한 국제적 노력에 동참해 줄 것을 요청하며, AI의 잠재력을 실현하기 위해서는 업계, 정부, 사회 전반의 협력이 필수적임을 역설했습니다.