최근 OpenAI의 챗GPT(ChatGPT) 사용자들이 데이터 학습 허용 설정이 사용자 동의 없이 반복적으로 재활성화되는 현상을 겪고 있다고 보고했습니다. 이 문제는 사용자가 자신의 대화 내용이 인공지능(AI) 모델 학습에 사용되는 것을 원치 않아 설정을 비활성화했음에도 불구하고, 일정 시간이 지나거나 업데이트 후 다시 활성화되는 방식으로 나타나고 있습니다. 이는 사용자 개인 정보 보호에 대한 중대한 위반이자, 기업의 데이터 활용 윤리에 대한 의문을 증폭시키고 있습니다.
한 해커뉴스(Hacker News) 사용자는 학습 허용 설정을 여러 차례 껐으며, 마지막 변경 시점까지 기록했지만 다시 켜져 있었다고 밝혔습니다. 다른 사용자들도 앤트로픽(Anthropic)의 클로드(Claude)에서도 유사한 경험을 했다고 언급하며, 새 이용약관 동의 과정에서 자신도 모르게 데이터 공유에 다시 동의하게 될 수 있다고 지적했습니다. 이러한 현상은 단순히 UI(사용자 인터페이스) 버그일 수도 있지만, 일부에서는 OpenAI가 사용자 데이터를 확보하기 위해 의도적으로 설정을 조작하는 ‘적대적 설계(adversarial design)’일 가능성까지 제기하고 있습니다. 특히, 이미 저작권 침해 논란에 휩싸인 OpenAI의 과거 행적과 맞물려 사용자들의 불신은 더욱 커지고 있습니다.
이러한 논란은 AI 기업의 데이터 수집 및 활용 방식에 대한 근본적인 질문을 던집니다. 사용자가 명시적으로 거부한 데이터를 기업이 몰래 활용한다면, 이는 신뢰 관계를 무너뜨리고 장기적으로 AI 기술 발전에 대한 대중의 수용도를 저해할 수 있습니다. 또한, 이는 개인 정보 보호 규제(예: GDPR) 위반 소지가 있어 법적 문제로 비화될 가능성도 배제할 수 없습니다. 사용자들은 이러한 문제에 대응하기 위해 OpenAI 제품 사용을 중단하거나, 자체 구축 또는 오픈소스 모델로 전환하는 등 대안을 모색하고 있습니다. AI 서비스 제공자들은 투명하고 윤리적인 데이터 정책을 수립하고, 사용자 동의를 최우선으로 존중하는 태도를 보여야 할 것입니다.