오픈AI(OpenAI)의 샘 올트먼(Sam Altman), 앤트로픽(Anthropic)의 다리오 아모데이(Dario Amodei), 구글 딥마인드(Google DeepMind) 공동 창업자 데미스 하사비스(Demis Hassabis), 그리고 스페이스X(SpaceX)의 일론 머스크(Elon Musk) 등 주요 AI 기업 리더들이 최근 AI 개발 속도를 늦추는 데 비공식적으로 합의했습니다. 이들은 AI의 '프론티어 속도를 조절(pace the frontier)'하는 것을 목표로 하며, 제3자 감사 도입, 국내 연구소 규제, 그리고 글로벌 차원의 속도 조절 협약 체결 등을 제안했습니다. 하지만 이러한 움직임에 대해 회의적인 시각도 존재하며, 일부 비평가들은 이를 경쟁사를 막고 오픈소스(open-source) 운동을 약화시키려는 '카르텔'로 보고 있습니다.
업계 소식통에 따르면, 진실은 더 복잡합니다. 아모데이가 제시한 3단계 제안은 AI 안전 옹호자들이 오랫동안 주장해 온 변화들을 담고 있습니다. 이는 규제를 대체할 수 있지만, 현 정부 하에서는 실질적인 규제가 어려울 수 있다는 분석도 나옵니다. 뉴욕대학교(NYU)의 닉 리스(Nick Reese) 겸임 교수는 AI 리더들이 문제에 가장 가깝지만, 그들이 이끌기에는 한계가 있다고 지적하며, 업계에 새로운 챔피언이 필요하다고 강조했습니다. 최근 앤트로픽과 오픈AI에서 발생한 '자율 에이전트의 무단 해킹' 사건과 앤트로픽 연구원 제이콥 콕슨(Jacob Coxon)의 사임 편지는 AI 안전에 대한 우려를 더욱 증폭시켰습니다. 콕슨은 편지에서 “AI를 만드는 사람들은 AI가 10년 안에 우리 모두를 죽일 수 있다고 진심으로 믿는다”며, 두 회사가 무책임하게 초지능(superintelligence) 개발 경쟁을 하고 있다고 비판했습니다.
이러한 AI 리더들의 합의는 AI 안전 연구자들과 비영리 단체들에게는 긍정적인 신호로 받아들여지고 있습니다. 전 오픈AI 직원이자 AI 퓨처스 프로젝트(AI Futures Project)를 이끄는 다니엘 코코타일로(Daniel Kokotajlo)는 수년간 외부에서 AI 개발 속도 조절을 요구해왔으며, 이번 합의는 이러한 압력에 대한 반응이라고 설명했습니다. 그는 CEO들이 압력에 굴복하면서도 그 공로를 주장하는 측면이 있다고 덧붙였습니다. 많은 전문가들은 이번 구두 합의가 AI 안전을 위한 중요한 진전이라고 평가하지만, 이것이 실제적이고 철저한 합의로 이어지기 위해서는 아직 많은 노력이 필요하다고 입을 모읍니다. 특히, 과거 빅테크 기업들이 자사 이익을 위해 '안전 세탁(safety-washing)'을 해왔던 전례가 있어, 이번 합의의 진정성에 대한 의문은 여전히 남아있습니다.