인공지능(AI) 챗봇 클로드(Claude)의 '채팅 공유' 기능에서 생성된 대화 및 아티팩트(Artifacts) 링크가 구글(Google) 검색 결과에 노출되어 사용자들의 민감한 정보가 유출되는 사고가 발생했습니다. 레딧(Reddit) 사용자들의 제보로 처음 알려진 이 문제는, 'site:claude.ai/share'와 같은 검색 연산자를 통해 수많은 공유 대화가 공개적으로 검색될 수 있었음을 보여줍니다. 이로 인해 건강 기록, 사내 문서, 심지어 아동의 이름과 전화번호까지 포함된 개인 정보가 외부로 유출될 우려가 커졌습니다.
이번 문제는 클로드의 '채팅 공유' 기능이 의도치 않게 작동하면서 발생한 것으로 보입니다. 클로드는 사용자가 생성한 대화나 프로젝트를 특정 URL을 통해 다른 사람과 공유할 수 있도록 하는데, 인터페이스에는 '링크를 가진 사람은 누구나 볼 수 있다'고 명시되어 있습니다. 이는 친구나 동료 등 소규모 그룹과의 공유를 위한 기능이지만, 실제로는 구글과 같은 검색 엔진에 의해 인덱싱되어 인터넷 전체에 공개될 수 있었던 것입니다. 앤트로픽(Anthropic) 측은 공유 링크가 포럼이나 소셜 미디어 등 검색 엔진이 접근할 수 있는 곳에 게시되었을 때만 검색 결과에 나타난다고 해명했지만, 이는 사용자에게 책임이 있다는 뉘앙스를 풍겨 논란이 일었습니다. 유출된 정보 중에는 앤트로픽의 사용 정책에서 금지하는 성적인 콘텐츠가 포함된 채팅도 발견되어, AI 모델의 콘텐츠 생성 가이드라인 준수 문제도 불거졌습니다.
이번 클로드의 정보 유출 사고는 AI 서비스 이용 시 개인 정보 보호에 대한 경각심을 다시 한번 일깨웁니다. 사용자들은 AI 챗봇과의 대화 내용이 단순한 정보 입력이 아니라 잠재적으로 외부에 노출될 수 있는 민감한 데이터임을 인지해야 합니다. 또한, AI 서비스 제공 기업들은 공유 기능 설계 시 검색 엔진 인덱싱 방지 등 기술적 조치를 강화하고, 사용자들에게 정보 공유의 범위와 위험성에 대해 더욱 명확하게 고지해야 할 필요성이 제기됩니다. 이러한 사고는 AI 기술의 발전과 함께 데이터 보안 및 개인 정보 보호가 얼마나 중요한 과제인지를 보여주는 사례이며, 앞으로 AI 서비스 전반에 걸쳐 더 엄격한 보안 기준이 요구될 것으로 예상됩니다.