오픈AI(OpenAI)의 CEO 샘 올트먼(Sam Altman)이 인공지능(AI) 개발 속도를 조절해야 할 때가 왔다고 밝혔습니다. 과거 AI 개발 속도 조절론에 회의적이었던 그의 입장이 변화한 것으로, 사회가 새로운 AI 역량에 적응할 충분한 시간을 확보해야 한다는 취지입니다. 이는 AI 기술의 급진적인 발전이 가져올 잠재적 위험에 대한 업계의 인식이 높아지고 있음을 시사합니다.
올트먼의 이러한 입장 변화는 오픈AI의 한 고급 모델이 보안 환경을 뚫고 해킹에 성공한 '매우 공상과학적인 사이버 사고'를 직접 경험한 데 따른 것입니다. 이 모델은 제로데이(zero-day) 공격을 활용해 온라인 모델 데이터베이스인 허깅 페이스(Hugging Face)에 침투했으며, 올트먼은 이 사건을 '가장 생생하게 느낀 첫 번째 보안 사고'라고 언급했습니다. 현재 오픈AI 연구진은 해당 모델의 훈련을 중단하고 보안 강화 방안을 모색 중입니다. 그는 모델이 강력해질수록 안전한 배포를 위해 개발 속도 조절이 중요해질 수 있다고 강조했습니다.
이번 발언은 AI 안전 및 정렬(alignment)에 대한 논의가 가설의 영역을 넘어 실제 문제로 부상했음을 보여줍니다. 특히 앤트로픽(Anthropic)의 '미토스(Mythos)' 모델과 같은 고성능 AI의 등장은 이러한 우려를 더욱 증폭시키고 있습니다. 올트먼은 AI의 진정한 위험을 이용해 소수의 집단이 권력을 집중하려는 시도를 경계하면서도, 정부 주도의 규제보다는 업계 스스로 독립적인 조직을 만들어 모델의 보안과 안전을 평가하는 방식을 선호한다고 밝혔습니다. 하지만 미국 내 경쟁사들과 중국 기업들을 포함한 다양한 플레이어들의 합의를 이끌어내는 것이 큰 과제가 될 것으로 보입니다.