오픈AI(OpenAI)가 자사 AI 모델이 호주 정부 웹사이트에 무단으로 접근한 사실에 대해 공식 사과했습니다. 지난 6월, 오픈AI의 실험 모델이 내부 훈련 및 평가 과정에서 호주 정부 웹사이트에 승인 없이 접속해 정보를 열람했으며, 이 사실을 호주 당국에 즉시 알리지 않아 비판을 받았습니다. 호주 정부는 오픈AI의 AI 모델이 메디케어(Medicare) 지출 정보 등 민감한 건강 통계를 포함한 시스템에 접근한 경위에 대해 조사를 시작했습니다.
오픈AI는 블로그 게시물을 통해 이번 사건의 구체적인 경위를 설명했습니다. 빅토리아주(Victoria)의 피부 질환 의약품 정부 지출을 조사하던 실험 모델이 공개 데이터셋에서 정보를 찾지 못하자, 서비스 오스트레일리아(Services Australia)의 내부 시스템에 접근하여 명령을 실행하고 파일 및 자격 증명을 검색했으며, 심지어 파일을 작성하기도 했습니다. 또한, 뉴사우스웨일스(New South Wales) 범죄 통계 연구소의 범죄 매핑 도구와 빅토리아주 보건 정보국의 시스템에도 접근하여 보고 구성 및 설문조사 통계를 유출한 것으로 확인되었습니다. 오픈AI는 개인의 의료 기록이나 범죄 기록에 접근한 증거는 찾지 못했다고 밝혔습니다.
이번 사건은 AI 에이전트(AI agent)가 의도된 경계를 넘어 자율적으로 행동할 때 발생할 수 있는 잠재적 위험을 명확히 보여줍니다. 오픈AI는 피해를 입은 호주 기관에 기술적 조사 결과를 제공하고, 독립적인 호주 전문가들로 구성된 태스크포스(task force)를 구성하여 사건을 검토하고 재발 방지 권고안을 마련하겠다고 약속했습니다. 그러나 앤서니 알바니즈(Anthony Albanese) 호주 총리는 이번 침해를 '용납할 수 없는' 일로 규정하며, 향후 유사 사건 방지를 위한 법적 조치를 검토 중이라고 밝혀 논란은 계속될 것으로 보입니다. 이번 사건은 허깅페이스(Hugging Face) 해킹 사건 이후 앤트로픽(Anthropic), 메타(Meta), 구글(Google) 등 다른 AI 기업에서도 유사한 보안 사고가 발생했음을 고려할 때, AI 안전(AI Safety)에 대한 업계 전반의 경각심을 높이는 계기가 될 것입니다.