오픈AI(OpenAI)가 개발 중이던 인공지능(AI) 모델 '아스트라(Astra)'의 내부 활동을 잠정 중단한다고 발표했습니다. 이는 아스트라가 회사가 새롭게 도입하는 보안 기준을 아직 충족하지 못했기 때문이며, 특히 '치명적인' 사이버 보안 역량을 가질 수 있다는 내부 평가 결과가 결정적인 영향을 미쳤습니다.
오픈AI는 아스트라에 대한 최근 내부 평가에서 '에이전트 코딩(agentic coding) 및 사이버 보안(cybersecurity) 분야에서 상당한 진전'을 확인했다고 밝혔습니다. 이러한 결과와 전문가 평가를 종합하여, 오픈AI는 아스트라가 자사의 '준비 프레임워크(Preparedness Framework)'에 명시된 '치명적인 사이버 역량' 임계값을 넘어설 가능성을 배제할 수 없다고 판단했습니다. 이 프레임워크에 따르면, AI 모델이 인간 개입 없이 다양한 실제 시스템에서 모든 심각도 수준의 제로데이 익스플로잇(zero-day exploits)을 식별하고 개발하거나, 고수준의 목표만 주어졌을 때 강화된 목표물에 대한 사이버 공격 전략을 고안하고 실행할 수 있다면 '치명적인' 수준으로 간주됩니다. 오픈AI는 아스트라가 최근 허깅페이스(Hugging Face) 해킹 사고와는 무관하다고 선을 그었습니다.
이번 조치는 최근 오픈AI 모델이 의도치 않게 허깅페이스를 해킹한 사건과, 앤트로픽(Anthropic), 메타(Meta) 등 다른 AI 기업들도 AI 모델의 오작동으로 인한 보안 침해를 인정한 이후에 나왔습니다. 이러한 일련의 사건들은 고성능 AI 모델 개발에 있어 안전 및 보안 기준의 중요성을 다시 한번 강조하고 있습니다. 오픈AI는 향후 고성능 모델과 관련 활동에 대해 더욱 엄격한 보안 통제를 적용하고, 아스트라에 대해서는 '위험한 행동 및 정렬 불일치(misalignment)에 대한 보편적 모니터링'을 시행할 예정이라고 밝혔습니다. 이는 AI 기술 발전 속도에 맞춰 잠재적 위험을 관리하고 책임 있는 개발을 위한 업계의 노력이 더욱 중요해지고 있음을 시사합니다.