오픈AI(OpenAI)가 기업 고객을 위한 새로운 데이터 프라이버시 보호 기술인 '프라이빗 세이프티 프로세싱(Private Safety Processing)'을 공개하며, 인공지능(AI) 모델 사용 시 발생할 수 있는 데이터 오용 감시와 고객 프라이버시 존중 사이의 균형을 맞추는 데 집중하고 있습니다. 이는 경쟁사인 앤트로픽(Anthropic)이 최근 발표한 데이터 보관 정책과 대비되며, 기업 시장에서 우위를 점하려는 전략으로 풀이됩니다.
새로운 시스템은 고객 데이터를 전혀 보관하지 않으면서도 AI 모델의 잠재적 오용을 자동으로 감시합니다. 기존의 '제로 데이터 리텐션(Zero Data Retention, ZDR)' 정책을 확장하여, 단일 세션이 아닌 여러 대화 세션에 걸쳐 발생하는 악의적인 활동을 탐지할 수 있습니다. 예를 들어, 사이버 공격을 위한 악성코드 개발처럼 여러 세션에 걸쳐 요청을 분산하는 경우에도 이를 감지할 수 있으며, 시스템이 이상 징후를 포착하면 오픈AI에 특정 유형의 활동에 대한 신호를 보내고, 필요한 경우 고객과 협력하여 문제를 해결합니다. 반면, 앤트로픽은 '커버드 모델(Covered Models)'에 대해 사용자 데이터를 최대 30일간 보관하며, 제한된 인원이 검토할 수 있도록 하고 있어 일부 기업 고객들의 우려를 샀습니다.
이러한 오픈AI의 움직임은 민감한 데이터를 다루는 기업들이 AI 도입을 망설이는 주요 원인 중 하나인 데이터 프라이버시 문제를 해결하려는 시도로 볼 수 있습니다. 기업들은 자사의 기밀 정보가 AI 개발사에 의해 보관되거나 검토되는 것을 꺼리는 경향이 있습니다. 오픈AI는 이번 발표를 통해 기업 고객들에게 더 높은 수준의 신뢰와 보안을 제공함으로써, 엔터프라이즈 AI 시장에서의 경쟁력을 강화하고 앤트로픽과의 차별점을 명확히 하려는 의도를 보여주고 있습니다. 이는 AI 기술의 확산과 함께 더욱 중요해질 데이터 주권 및 보안 문제에 대한 업계의 고민을 반영하는 사례입니다.