최근 오픈AI가 새로운 AI 에이전트 '닷츠(Dots)'를 공개하며 '최첨단 AI 분야에서 새로운 개인정보 보호 표준을 세우겠다'고 선언했습니다. 이는 경쟁사인 메타의 '뮤즈(Muse)'가 사용자 데이터를 안전하게 보호하지 못했다는 비판을 의식한 발언으로 풀이됩니다. 그러나 뮤즈 역시 출시 당시 '개인정보 보호와 보안을 위해 처음부터 설계됐다'고 강조했던 만큼, AI 에이전트 개발사들의 개인정보 보호 약속이 과연 지켜질 수 있을지 관심이 집중되고 있습니다.
메타의 뮤즈는 출시 몇 주 만에 미국에서 60만 명 이상의 일일 활성 사용자(DAU)를 확보하며 큰 인기를 끌었지만, 개인정보 보호 논란에 휩싸였습니다. 사용자 데이터가 다른 사용자와 분리되어 저장되고 암호화된 접근 방식을 도입할 예정이라고 밝혔음에도, 메타 자체는 여전히 데이터에 접근할 수 있다는 점이 지적되었습니다. 또한, 제로데이 취약점이 발견되어 해킹 우려가 제기되었고, 사용자의 동의 없이 개인 메시지를 읽거나 주소를 타인에게 제공하는 등 데이터 수집 및 활용 방식에 대한 비판이 끊이지 않았습니다. 이는 뮤즈가 '개인정보 보호에 특화된' 서비스라는 메타의 주장과 상반되는 결과였습니다.
오픈AI는 이러한 뮤즈의 사례를 반면교사 삼아 닷츠의 개인정보 보호 기능을 강조하고 있습니다. 샘 알트만(Sam Altman) CEO는 사용자가 닷츠의 행동을 직접 제어할 수 있는 기능을 시연하며 신뢰할 수 있는 AI 비서가 되겠다고 약속했습니다. 특히 기업 고객을 대상으로는 '강력한 데이터 제어'와 '제로 데이터 보존(Zero Data Retention)' 정책을 제공하여, 기업 데이터가 오픈AI 서버에 저장되지 않도록 하겠다고 밝혔습니다. 하지만 닷츠가 고가의 구독 서비스에서만 제공되어 아직 사용자 수가 적다는 점을 고려할 때, 대규모 사용자 환경에서도 이러한 약속이 유지될지는 미지수입니다.
AI 에이전트가 개인의 금융 정보, 사적인 대화 등 민감한 데이터에 깊숙이 접근해야 하는 만큼, 사용자들은 여전히 개인정보 공유에 대한 불안감을 느끼고 있습니다. 기업들이 '유용성', '친근함', 그리고 '개인정보 보호 약속'이라는 세 가지 전략으로 AI 에이전트의 대중화를 꾀하고 있지만, 궁극적으로는 이 약속을 얼마나 성실하게 이행하는지가 성공의 관건이 될 것입니다. AI 에이전트 시장의 성장은 결국 사용자 신뢰를 어떻게 확보하느냐에 달려있습니다.