최근 미국 정부가 인공지능(AI) 스타트업 앤트로픽(Anthropic)의 최신 대규모 언어모델(LLM)인 페이블 5(Fable 5)와 미토스 5(Mythos 5)에 대해 국가 안보를 이유로 사용 금지 조치를 내렸습니다. 이는 아마존(Amazon) 연구원들이 페이블 5의 안전장치(guardrails)를 우회하는 이른바 '탈옥(jailbreak)' 방법을 발견했다고 주장한 직후에 이루어진 결정입니다. 이로 인해 앤트로픽은 해당 모델들에 대한 접근을 중단해야 했습니다.
이번 조치에 대해 사이버 보안 연구자들은 공개 서한을 통해 정부의 이러한 개입이 위험할 수 있다고 비판했습니다. 앤트로픽 또한 자사의 모델에만 해당 취약점이 있는 것이 아니라, 다른 주요 AI 모델들에서도 유사한 탈옥 가능성이 존재한다고 밝혔습니다. 일각에서는 이번 금지 조치가 실제 보안 문제보다는 트럼프 행정부와 앤트로픽 간의 복잡한 관계의 연장선상에 있는 것이 아니냐는 분석도 나오고 있습니다. 테크크런치(TechCrunch)의 팟캐스트 '에쿼티(Equity)'에서는 이번 금지 조치가 앤트로픽 플랫폼 위에서 개발하는 개발자들과 기업공개(IPO)를 지켜보는 투자자들에게 어떤 의미를 가지는지, 그리고 의도치 않게 앤트로픽 브랜드에 긍정적인 영향을 줄 수 있는지 등을 논의했습니다.
이번 사건은 AI 모델의 안전성(safety)과 정부 규제의 적절성에 대한 중요한 질문을 던집니다. AI 기술이 빠르게 발전하면서 잠재적 위험에 대한 우려가 커지는 것은 당연하지만, 특정 모델에 대한 성급한 사용 금지는 기술 혁신을 저해하고, 오히려 해당 모델에 대한 대중의 호기심을 자극하여 의도치 않은 홍보 효과를 가져올 수도 있습니다. 또한, 모든 AI 모델이 완벽할 수 없다는 점을 고려할 때, 특정 모델에만 엄격한 잣대를 들이대는 것은 공정성 논란을 불러일으킬 수 있습니다. 이러한 논쟁은 AI 거버넌스(governance)와 규제 프레임워크를 정립하는 데 있어 중요한 선례가 될 것으로 보입니다.