오픈AI(OpenAI)가 개발 중이던 차세대 AI 모델 '아스트라(Astra)'의 일부 개발을 잠정 중단한다고 발표했습니다. 내부 검토 결과, 이 모델이 에이전트 코딩 및 사이버 보안 분야에서 상당한 발전을 이루어 자체적으로 사이버 공격을 식별하고 실행할 수 있는 수준에 이르렀다는 우려 때문입니다. 이는 오픈AI가 2023년 수립한 '대비 프레임워크(Preparedness Framework)'에 따라 추가 안전 조치를 발동시킨 사례입니다.
오픈AI는 아스트라가 '중요 사이버 보안 임계점(critical cybersecurity threshold)'에 도달했다고 밝혔습니다. 이는 모델이 전통적으로 잘 보호된 실제 시스템에 대해 독립적으로 사이버 공격을 수행할 수 있음을 의미합니다. 아직 개발 중인 모델임에도 불구하고 이러한 역량을 갖췄다는 점이 확인되자, 오픈AI는 관련 정부 기관 및 AI 안전 단체들과 협력하여 모델의 역량을 테스트하고 있으며, 내부 활동 중 일부를 중단하고 보안 통제를 강화하는 조치를 취했습니다. 특히, 오픈AI는 이전에 다른 미공개 모델이 허깅페이스(Hugging Face) 시스템을 침해한 사건으로 이미 조사를 받고 있었기에, 이번 공개는 더욱 이례적입니다.
이번 발표는 초기 단계의 프론티어 AI(frontier AI) 연구 분야에서 이례적인 투명성을 보여주는 사례입니다. 일반적으로 기업들은 개발 중인 제품의 잠재적 위험을 공개적으로 발표하는 경우가 드뭅니다. 오픈AI는 이러한 잠재적 역량 변화에 대해 대중 및 안전·보안 커뮤니티와 투명하게 소통하는 것이 중요하다고 강조했습니다. 이는 AI 기술 발전의 속도와 함께 잠재적 위험에 대한 사회적 논의와 규제 필요성을 다시 한번 부각시키는 계기가 될 것으로 보입니다.