아마존(Amazon)의 CEO 앤디 재시(Andy Jassy)가 앤트로픽(Anthropic)의 AI 모델에서 발견된 보안 취약점에 대해 미국 정부에 직접 우려를 표명한 것으로 알려졌습니다. 이 보고 이후 미국 재무부(Treasury Department)는 앤트로픽의 '클로드 페이블 5(Claude Fable 5)'와 '미토스 5(Mythos 5)' 모델에 대한 수출 통제 조치를 단행했고, 앤트로픽은 결국 이 두 모델에 대한 전 세계 접근을 차단했습니다.
월스트리트저널(The Wall Street Journal)에 따르면, 재시 CEO는 스콧 베센트(Scott Bessent) 재무장관을 비롯한 정부 관계자들에게 아마존 연구진이 앤트로픽의 클로드 페이블 5를 이용해 사이버 공격에 활용될 수 있는 정보를 얻었다고 밝혔습니다. 아마존은 앤트로픽의 주요 투자사이기도 합니다. 트럼프 행정부의 전 AI 책임자이자 현 대통령 과학기술자문위원회 공동 의장인 데이비드 색스(David Sacks)는 이 논의에 대해 "앤트로픽과 미국 정부 모두의 신뢰할 수 있는 파트너가 '탈옥(jailbreak)' 문제를 제기했다"고 설명했습니다. 색스는 정부가 앤트로픽 CEO 다리오 아모데이(Dario Amodei)에게 이 문제를 해결하거나 모델 배포를 중단할 것을 요청했지만, 아모데이 CEO가 이를 거부했다고 덧붙였습니다. 앤트로픽 측은 해당 기능이 이미 다른 공개 모델에서도 접근 가능하다고 해명했습니다.
이번 사건은 AI 기술의 급속한 발전과 함께 제기되는 보안 및 안전 문제의 중요성을 다시 한번 부각시킵니다. 특히 대규모 언어모델(LLM)이 잠재적으로 악용될 수 있는 위험에 대한 경각심을 높이는 계기가 될 것입니다. 또한, AI 개발사와 주요 투자사 간의 복잡한 이해관계와 정부의 기술 통제 역할에 대한 논의를 촉발할 것으로 보입니다. AI 안전성 확보는 기술 발전만큼이나 중요한 과제이며, 이를 위한 기업과 정부의 협력 및 규제 프레임워크 마련이 더욱 시급해질 것입니다.