오픈AI(OpenAI)의 안전 보고서 작성자였던 데이비드 로빈슨(David Robinson)이 최근 회사를 떠나며 AI 업계의 안전 문제에 대한 경고의 목소리를 높였습니다. 그는 디 애틀랜틱(The Atlantic) 기고문을 통해 실리콘밸리의 문화가 근본적으로 '고장 났다(broken)'고 비판하며, AI 개발에 있어 '극도의 자신감'과 '끊임없는 질주'가 잠재적 위험을 과소평가하고 있다고 지적했습니다.
로빈슨은 AI 기업들이 겸손함을 갖추고 기술 업계의 폐쇄적인 '빠르게 움직이고 파괴하라(move-fast-and-break-things)'는 사고방식에서 벗어나야 한다고 강조했습니다. 특히 그는 AI에 '원자력 발전소'나 '분주한 공항'과 같은 수준의 안전 장치가 필요하다고 주장했습니다. 인간의 필연적인 실수가 재앙으로 이어지지 않도록 여러 겹의 중복 시스템과 신중하고 시간 소모적인 계획이 필수적이라는 설명입니다. 이는 단순히 몇 가지 새로운 규칙이나 규제를 추가하는 것 이상의 근본적인 문화 변화를 요구하는 것입니다.
로빈슨은 앤트로픽(Anthropic)을 떠나 AI가 10년 안에 인류를 멸망시킬 수 있다고 경고했던 제이콥 콕슨(Jacob Coxon)을 비롯해 구글 딥마인드(Google DeepMind)와 앤트로픽 등 주요 AI 기업에서 안전 문제로 퇴사한 여러 연구자들의 뒤를 잇고 있습니다. 이러한 전문가들의 연이은 경고는 AI 기술의 발전 속도와 안전성 확보 사이의 불균형에 대한 우려를 심화시키고 있습니다. AI 초지능(superintelligence)이 가져올 수 있는 '극단적인 위험'에 대한 경고는 더 이상 소수의 의견이 아닌, 업계 내부에서도 점차 확산되는 중요한 담론으로 자리 잡고 있습니다.