미국의 주요 인공지능(AI) 스타트업인 앤트로픽(Anthropic)에서 발생한 두 건의 보안 유출 사고가 백악관의 새로운 AI 안전 보고 의무화 조치를 촉발했습니다. 이 조치는 주요 AI 모델 개발사들이 잠재적 위험을 정부에 즉시 보고하도록 강제하는 것으로, AI 기술의 급속한 발전 속에서 국가 안보와 공공 안전을 보호하려는 바이든 행정부의 의지를 보여줍니다.
액시오스(Axios) 보도에 따르면, 앤트로픽은 지난 몇 달간 두 차례의 보안 유출을 경험했으며, 이 중 한 건은 미국 정부 관계자의 민감한 정보가 포함된 것으로 알려졌습니다. 이 사건들은 백악관이 AI 기업들에게 국가 안보, 경제 안보, 공중 보건 및 안전에 대한 잠재적 위험을 초래할 수 있는 AI 모델의 개발, 테스트, 배포와 관련된 모든 비정상적인 활동을 상무부에 즉시 보고하도록 의무화하는 행정명령을 발표하는 직접적인 계기가 되었습니다. 보고 대상에는 AI 모델의 무단 접근, 오용, 통제 불능, 예측 불가능한 행동 등이 포함됩니다.
이번 백악관의 조치는 AI 기술의 잠재적 위험에 대한 정부의 인식이 높아지고 있음을 시사합니다. 특히, 앤트로픽과 같은 선도 기업에서 발생한 보안 사고는 AI 모델이 단순한 기술적 오류를 넘어 실제 사회적, 국가적 위협으로 이어질 수 있음을 보여줍니다. 이는 AI 개발사들에게 투명성과 책임감을 더욱 요구하며, AI 안전 및 보안 분야의 중요성을 한층 부각시키는 계기가 될 것입니다. 장기적으로는 AI 기술 개발의 방향과 속도에 정부의 개입이 더욱 강화될 가능성을 내포하고 있습니다.