구글의 인공지능(AI) 챗봇 제미니(Gemini)가 유료 구독자의 대화 기록까지 AI 모델 학습에 사용하고 있으며, 사용자가 이를 거부할 방법이 사실상 없다는 사실이 알려져 논란이 되고 있습니다. 사용자가 '제미니 앱 활동(Gemini app activity)' 설정을 끄지 않는 한, 모든 대화가 AI 학습에 활용될 수 있으며, 심지어 일부 대화는 사람 검토자(human reviewers)에 의해 직접 읽힐 수도 있습니다. 구글은 검토 시 개인 계정과의 연결을 끊는다고 주장하지만, 기밀 정보를 입력하지 말라고 명시적으로 경고하고 있어 사용자들의 불안감이 커지고 있습니다.
구글의 지원 페이지에 따르면, '활동 기록 유지(Keep Activity)' 설정이 켜져 있으면 제미니 앱 활동이 생성형 AI 모델 학습을 포함해 구글 서비스 개선에 사용됩니다. 또한, 사람 검토자가 확인한 대화는 사용자가 활동 기록을 삭제하더라도 최대 3년까지 보관될 수 있습니다. 활동 기록 유지를 끄면 대화 기록이 72시간 후에 삭제되지만, 이 경우 제미니의 핵심 기능들이 제대로 작동하지 않거나 이용이 제한되는 문제가 발생합니다. 예를 들어, 픽셀(Pixel) 폰 사용자는 활동 기록을 꺼두면 제미니를 통한 알림 설정 등 기본적인 기능조차 사용할 수 없게 됩니다. 이는 구글이 사용자 데이터 수집을 강제하기 위해 기능을 제한하는 '올 오어 나싱(all or nothing)' 전략을 취하고 있다는 비판을 받고 있습니다.
이러한 정책은 유료 구독자조차 자신의 데이터가 제품 개선을 위한 학습에 사용되는 것을 막을 수 없다는 점에서 심각한 개인 정보 보호 문제를 제기합니다. 많은 사용자는 유료 서비스를 이용하면 데이터가 상업적으로 활용되지 않을 것이라고 기대하지만, 구글의 정책은 이러한 기대를 저버리는 것입니다. 이는 비단 제미니만의 문제가 아니라, 유튜브(YouTube) 시청 기록이나 구글 지도(Google Maps) 위치 기록 등 구글의 다른 서비스에서도 유사하게 나타나는 경향입니다. 사용자는 편리함을 위해 데이터를 제공하거나, 개인 정보 보호를 위해 서비스의 핵심 기능을 포기해야 하는 딜레마에 빠지게 됩니다. 기업의 AI 모델 학습을 위한 데이터 수집과 사용자 개인 정보 보호 사이의 균형점을 찾는 것이 중요한 과제로 떠오르고 있습니다.