초지능 인공지능(Superintelligence AI)의 등장이 기정사실처럼 여겨지던 분위기 속에서, 최근 오픈AI(OpenAI)의 허깅페이스(Hugging Face) 유출 사고와 같은 안전 문제들이 불거지며 초지능 AI 개발에 대한 근본적인 의문이 제기되고 있습니다. 인간의 능력을 뛰어넘는 AI 시스템이 과연 안전하게 배포될 수 있는지, 그리고 우리가 이러한 시스템을 안정적으로 통제할 수 있을지에 대한 논의가 활발해지고 있습니다.
테크크런치(TechCrunch)의 팟캐스트 '이쿼티(Equity)'에서는 AI 연구자이자 기업가인 코너 리히(Connor Leahy)가 출연해 초지능 AI 개발 중단을 주장했습니다. 그는 비영리 단체 컨트롤AI(ControlAI)의 미국 지부 전무이사로서, 정렬(alignment)이나 봉쇄(containment)만으로는 초지능 AI의 위험을 관리하기 어렵다고 강조했습니다. 리히는 불과 6개월 전만 해도 비현실적으로 들리던 이러한 주장이 이제 새로운 법안들의 지지를 받으며 현실적인 논의로 부상하고 있다고 설명했습니다.
이러한 주장은 AI 안전에 대한 업계와 규제 당국의 인식이 변화하고 있음을 보여줍니다. 초지능 AI가 가져올 잠재적 이점만큼이나 통제 불능 상태에 빠질 경우 인류에게 미칠 치명적인 위험에 대한 경고음이 커지고 있는 것입니다. 이는 단순히 기술 개발 속도를 늦추는 것을 넘어, AI 개발의 방향성과 윤리적 기준에 대한 사회적 합의가 시급함을 시사합니다. 앞으로 초지능 AI 개발을 둘러싼 논쟁은 더욱 심화될 것으로 예상됩니다.