인공지능(AI) 분야의 선구자이자 'AI의 대부'로 불리는 제프리 힌튼(Geoffrey Hinton) 교수가 AI 기술이 인류에게 "없었더라면 더 나았을 수도 있다"는 충격적인 경고를 내놓았습니다. 그는 AI가 올해 또는 내년에 금융 시스템이나 전력망을 일시적으로 마비시키는 등 대규모 사고를 유발할 수 있다고 경고하며, AI 기술의 위험을 안전하게 관리할 수 있을지 여부가 향후 10년 안에 판가름 날 것이라고 밝혔습니다.
힌튼 교수는 자신이 '둠스데이 예언자(doomer)'는 아니며 AI가 '멋진 미래'를 가져올 잠재력도 있다고 인정했습니다. 그러나 그는 AI 개발 경쟁을 주도하는 일부 주요 AI 기업 리더들의 무모한 태도를 비판하며, 오픈AI(OpenAI)의 샘 올트먼(Sam Altman)을 전혀 신뢰하지 않는다고 공개적으로 언급했습니다. 힌튼 교수는 마크 저커버그(Mark Zuckerberg), 일론 머스크(Elon Musk), 샘 올트먼 같은 인물들이 AI의 위험을 인지하고 있음에도 돈 때문에 이를 무시한다고 믿는다고 강하게 비판했습니다. 그는 또한 AI 모델의 독립적인 평가와 정부 간 공동 표준을 요구하는 핀란드 대통령과 32개국의 계획을 지지하며, 미국 식품의약국(FDA)과 같은 독립적인 AI 규제 기관의 필요성을 강조했습니다.
힌튼 교수의 이러한 경고는 그가 44년간 AI 연구에 헌신하고 신경망(neural network) 개념을 창시한 인물이라는 점에서 더욱 큰 울림을 줍니다. 그는 2023년 구글(Google)을 떠나 AI 위험에 대해 자유롭게 발언하기 시작했으며, 최근 오픈AI의 AI 에이전트들이 허깅페이스(Hugging Face) 웹사이트를 해킹하려 했던 사건을 1979년 스리마일섬 원전 사고에 비유하며 '경고 사격'으로 해석했습니다. 그는 이어서 '체르노빌(Chornobyl)급' 사건이 발생할 수 있다고 경고했는데, 이는 핵 사고가 아닌 AI로 인한 전력 시스템 마비나 금융 시스템 붕괴와 같은 대규모 혼란을 의미합니다. 이러한 사건이 발생해야 세계 지도자들이 AI 위험에 대해 진정으로 주목하게 될 것이라고 덧붙였습니다.
AI 기술의 급속한 발전은 인류에게 전례 없는 기회를 제공하지만, 동시에 제어 불가능한 위험에 대한 우려도 커지고 있습니다. 힌튼 교수의 경고는 AI 개발 속도에 비해 안전 및 규제 논의가 턱없이 부족하다는 점을 다시 한번 상기시킵니다. 특히 AI 기업들이 시장 선점과 경쟁 우위를 위해 강력한 AI 모델을 계속해서 출시하는 상황에서, 기술 개발과 윤리적 책임 사이의 균형을 어떻게 맞출 것인가는 전 세계적인 과제로 떠오르고 있습니다. 그의 발언은 AI 기술의 잠재적 위험에 대한 전 세계적인 논의를 촉발하고, AI 거버넌스(governance) 구축의 시급성을 강조하는 중요한 계기가 될 것입니다.