엔비디아가 100개 이상의 기업과 손잡고 '오픈 에이전트 안전 플랫폼(Open Agent Safety Platform)'을 발표하며 무단 AI 에이전트(rogue AI agents) 문제 해결에 나섰지만, 핵심 플레이어인 오픈AI(OpenAI)가 공개적으로 참여하지 않아 업계의 이목을 끌었습니다. 아마존, 구글, 애플 등 다른 빅테크 기업들도 불참했지만, 경쟁사인 앤트로픽(Anthropic)이 지지 의사를 밝힌 상황에서 오픈AI의 부재는 더욱 두드러졌습니다.
테크크런치(TechCrunch) 보도에 따르면, 오픈AI는 엔비디아의 노력에 대해 지지 의사를 표명했으며, 특히 에이전트가 샌드박스(sandbox)를 탈출하지 못하도록 설계된 오픈소스 소프트웨어인 '오픈셸(OpenShell)' 개발에 협력하고 있는 것으로 확인되었습니다. 엔비디아는 자사의 AI 에이전트 보안 기술을 AI 생태계 전반에 확산시키기 위해 이 플랫폼을 추진하고 있으며, 젠슨 황(Jensen Huang) 엔비디아 CEO는 무단 AI를 일반적인 엔지니어링 문제로 보고 해결 가능하다고 강조해왔습니다. 허깅페이스(Hugging Face) 창립자 클렘 들랑그(Clem Delangue)는 오픈AI가 이 기술을 사용했다면 허깅페이스 공격 사건을 미리 막을 수 있었을 것이라고 언급하기도 했습니다.
오픈AI가 공개적으로 참여하지 않은 데에는 몇 가지 이유가 있을 수 있습니다. 엔비디아의 플랫폼은 오픈소스 소프트웨어 외에 엔비디아의 독점 하드웨어(BlueField-4 데이터 처리 장치)에서만 작동하는 '엔비디아 센트리(Nvidia Sentry)'라는 하드웨어 모니터링 구성 요소를 포함하고 있습니다. 이는 에이전트의 행동을 하드웨어 계층에서 감시하여 감지되지 않게 통제하는 기능인데, 결과적으로 엔비디아 하드웨어에 대한 종속성을 야기합니다. 또한, 오픈AI는 AI 안전 분야에서 자체적인 리더십을 확보하고 엔비디아로부터 독립성을 유지하려는 전략을 가지고 있는 것으로 보입니다. 실제로 오픈AI는 자체적으로 AI 사이버보안 컨소시엄인 '디펜스 팩토리(Defense Factory)'를 운영하며 앤트로픽, 아마존 웹 서비스(AWS), 구글 등 엔비디아 플랫폼에 불참한 기업들과 협력하고 있습니다. AI 안전을 엔터프라이즈 솔루션으로 제공하려는 비즈니스 기회로도 보고 있는 것입니다.