최근 인공지능(AI) 업계에서 AI 기술이 인류에게 실존적 위협이 될 수 있다는 논쟁이 다시 뜨겁게 달아오르고 있습니다. 앤트로픽(Anthropic)의 AI 연구원 제이콥 콕슨(Jacob Coxon)이 회사를 떠나며 주요 AI 기업들이 “우리의 삶을 가지고 도박하고 있다”고 비판했고, 앤트로픽의 AI 정렬(alignment) 리더는 AI가 “10년 내 인류를 전멸시킬 가능성이 10% 이상”이라고 주장하며 논란에 불을 지폈습니다.
이러한 종말론적 경고는 테크크런치(TechCrunch) 팟캐스트 '이쿼티(Equity)'에서도 심도 있게 다뤄졌습니다. 진행자들은 콕슨의 사임과 앤트로픽 내부자의 발언이 최근 허깅페이스(Hugging Face) 해킹 사건이나 최신 AI 모델들의 향상된 성능과 맞물려 큰 파급력을 가졌다고 분석했습니다. 특히 앤트로픽이 기업공개(IPO)를 준비하는 시점에서 이러한 우려가 S-1 서류에 어떻게 반영될지 의문을 제기하기도 했습니다. 콕슨의 행동은 자신의 신념을 위해 직업적 궤적을 바꾼 용기 있는 행동으로 평가받았지만, 다른 이들의 경고에 대해서는 다양한 해석이 나왔습니다.
일각에서는 이러한 AI 종말론이 기업들이 자사 AI 모델의 발전 수준을 과시하려는 '묘한 과시(weird way of flexing)'일 수 있다는 시각도 제기됩니다. AI 모델이 충분히 발전하지 않았다면 이러한 위험을 논할 필요도 없기 때문입니다. 물론, 연구자와 경영진들이 진정한 우려를 가지고 있을 수 있지만, 동시에 자신들이 개발하는 기술이 세상에서 가장 중요하고 위험하다는 인식을 심어주는 것이 사업적 이익과도 부합한다는 분석입니다. 이러한 논쟁은 AI 기술의 윤리적 책임과 규제 필요성에 대한 사회적 논의를 더욱 촉진할 것으로 보입니다.