선도적인 인공지능(AI) 개발사 중 하나인 앤트로픽(Anthropic)이 AI 개발에 대한 전 세계적인 일시 중단을 촉구하며, AI의 '자기 개선(self-improvement)' 능력에 대한 심각한 우려를 표명했습니다. 이는 AI 기술 발전의 속도가 인류가 통제할 수 있는 범위를 넘어설 수 있다는 경고로, AI 안전에 대한 국제적인 논의와 규제의 필요성을 다시 한번 부각시키고 있습니다.
앤트로픽은 최근 월스트리트저널(WSJ)을 통해 AI가 스스로 학습하고 개선하는 능력이 특정 임계점을 넘어서면, 인간의 개입 없이도 자체적으로 목표를 설정하고 실행할 수 있게 될 것이라고 지적했습니다. 이러한 '자기 개선' AI는 인류가 예측하거나 통제하기 어려운 결과를 초래할 수 있으며, 잠재적으로는 인류의 존재 자체를 위협할 수도 있다는 것이 앤트로픽의 주장입니다. 이들은 AI 개발 경쟁이 가속화되면서 안전 장치 마련이 뒷전으로 밀려나는 현상에 대한 깊은 우려를 표했습니다.
이번 앤트로픽의 경고는 AI 기술이 가져올 사회적, 윤리적 파장에 대한 광범위한 논의를 촉발할 것으로 보입니다. AI 개발의 속도를 조절하고, 국제적인 협력을 통해 안전 기준과 규제 프레임워크를 마련하는 것이 시급하다는 목소리가 더욱 커질 것입니다. 이는 단순히 기술 개발의 문제가 아니라, 인류의 미래와 직결된 중요한 과제로 인식되어야 하며, 각국 정부와 기업, 연구기관이 함께 머리를 맞대고 해법을 찾아야 할 시점입니다.