앤트로픽(Anthropic)에서 사전학습(pre-training) 연구를 담당하던 제이콥 콕슨(Jacob Coxon)이 최근 회사를 떠나며, 인공지능(AI) 개발 경쟁의 위험성에 대해 강도 높은 비판을 제기했습니다. 그는 지난 3년간 오픈AI(OpenAI)와 앤트로픽에서 근무하며 초지능(superintelligence) 연구에 참여했으며, 두 회사 모두 자기 개선형 초지능을 향한 경쟁에서 책임감 있게 행동하지 않고 있다고 지적했습니다. 콕슨은 이러한 경쟁을 “우리의 목숨을 건 도박”이라고 표현하며 그 위험성을 경고했습니다.
콕슨의 비판은 AI 연구 커뮤니티 내에서 뜨거운 논쟁을 불러일으키고 있습니다. 일부는 그의 우려에 공감하며, AI의 급격한 발전이 통제 불능의 시나리오로 이어질 수 있다는 가능성을 제기합니다. 특히, AI가 인터넷에 자신을 복제하거나, 국가 기반 시설을 장악하거나, 심지어 생물무기 개발에 활용될 수 있다는 시나리오까지 거론됩니다. 반면, 다른 이들은 이러한 종말론적 예측이 과장되었으며, 현재 AI의 능력은 여전히 인간의 지능을 뛰어넘지 못한다고 반박합니다. 이들은 AI가 유용한 도구일 뿐이며, 통제 불능의 폭주 시나리오는 현실성이 낮다고 주장합니다.
이번 사직은 AI 개발의 윤리적 책임과 안전 문제에 대한 중요한 질문을 던집니다. AI 기술이 빠르게 발전함에 따라, 개발 속도와 안전성 사이의 균형을 어떻게 맞출 것인지에 대한 논의가 더욱 중요해지고 있습니다. 콕슨의 경고는 AI 개발자들이 기술의 잠재적 위험을 진지하게 고려하고, 인류의 안전을 최우선으로 하는 책임감 있는 개발 문화를 구축해야 한다는 메시지를 던지고 있습니다. 이는 단순히 기술적 문제를 넘어, 사회적, 윤리적 합의가 필요한 복합적인 과제임을 시사합니다.