구글의 인공지능(AI) 챗봇 제미니(Gemini)가 유료 구독자의 채팅 기록까지 생성형 AI 모델 학습에 활용하고 있다는 사실이 알려지면서 사용자들의 우려가 커지고 있습니다. 개인용 유료 구독자라도 '활동 기록 유지(Keep Activity)' 설정이 켜져 있으면, 사용자의 대화 내용이 서비스 개선 및 모델 학습에 사용될 수 있습니다. 구글은 사람이 채팅 내용을 검토할 때 계정과의 연결을 끊는다고 설명하지만, 사용자가 원치 않는 기밀 정보는 입력하지 말 것을 권고하고 있습니다.
구체적으로, '활동 기록 유지' 설정이 활성화되어 있으면 채팅 세션이 저장되고 AI 학습에 활용됩니다. 만약 이 설정을 끄면 채팅 기록은 72시간 후에 자동으로 사라집니다. 특히 사람이 검토한 채팅 기록은 사용자가 활동 기록을 삭제하더라도 최대 3년간 보관될 수 있어 개인정보 보호에 대한 논란이 제기되고 있습니다. 이는 챗GPT(ChatGPT)가 채팅 기록 끄기 및 모델 학습 사용 여부를 선택할 수 있게 한 것과 대비되어 더욱 주목받고 있습니다.
이러한 정책은 구글이 사용자 데이터를 통해 제품의 품질을 개선하고 개인화된 서비스를 제공하려는 의도에서 비롯된 것으로 보입니다. 그러나 사용자 입장에서는 자신의 사적인 대화가 AI 학습에 사용되거나 심지어 사람에게 노출될 수 있다는 점에 큰 부담을 느낄 수 있습니다. 특히 민감한 정보를 다루는 전문가나 기업 사용자에게는 심각한 보안 문제로 인식될 수 있습니다. 결국 사용자는 편리한 기능과 개인정보 보호 사이에서 선택을 강요받게 되며, 이는 AI 서비스 전반에 대한 신뢰 문제로 이어질 수 있습니다.