오픈AI(OpenAI)의 챗GPT(ChatGPT) 사용자들이 자신들의 대화 기록이 모델 학습에 사용되는 것을 막기 위해 '데이터 학습 허용' 설정을 비활성화했음에도 불구하고, 이 설정이 임의로 다시 활성화되는 현상이 반복적으로 발생하고 있다는 주장이 제기되었습니다. 한 사용자는 설정을 끈 시점을 기록해두었는데, 얼마 지나지 않아 다시 설정이 켜져 있는 것을 확인했다고 밝혔습니다. 이는 사용자의 명시적인 의사와 달리 데이터가 AI 모델 학습에 활용될 수 있다는 점에서 개인 정보 보호와 데이터 통제권에 대한 심각한 우려를 낳고 있습니다.
이러한 문제는 오픈AI에만 국한된 것이 아니라는 지적도 나옵니다. 일부 사용자들은 앤트로픽(Anthropic)의 클로드(Claude)와 같은 다른 AI 서비스에서도 유사한 경험을 했다고 공유했습니다. 서비스 약관 변경 동의나 새로운 기능 추가 시 기본 설정을 '데이터 공유 허용'으로 해두는 방식으로 사용자 동의를 유도하거나, 심지어는 사용자가 비활성화한 설정을 업데이트 등의 명목으로 다시 활성화시키는 경우가 있다는 것입니다. 이는 기업들이 법적 보호 장치를 마련하면서도 실제로는 사용자 데이터를 적극적으로 활용하려는 시도로 해석될 수 있습니다.
이러한 관행은 AI 서비스의 투명성과 신뢰성에 큰 타격을 줄 수 있습니다. 사용자들이 자신의 데이터가 어떻게 활용되는지 명확히 인지하고 통제할 수 있어야 하는데, 이러한 무단 변경은 사용자들의 신뢰를 저해하고 AI 기술 전반에 대한 불신을 키울 수 있습니다. 특히, 민감한 정보가 포함될 수 있는 대화 기록이 사용자 동의 없이 학습에 사용될 경우, 잠재적인 사생활 침해나 정보 유출의 위험까지도 내포하게 됩니다. 따라서 AI 서비스 제공자들은 사용자 데이터 정책에 대한 명확한 설명과 함께, 사용자가 설정한 개인 정보 보호 옵션을 존중하고 투명하게 운영해야 할 책임이 있습니다.