최근 보안 연구팀 노마 시큐리티(Noma Security)가 깃허브(GitHub)의 AI 에이전트에서 비공개 저장소(private repository)의 민감한 정보를 유출할 수 있는 심각한 취약점 ‘깃로스트(GitLost)’를 발견했습니다. 이 취약점은 AI 에이전트가 학습 과정에서 사용된 비공개 코드 스니펫(code snippet)을 특정 프롬프트에 반응하여 노출하도록 만들 수 있으며, 이는 개발자 커뮤니티와 기업들에게 보안 경각심을 불러일으키고 있습니다.
연구팀은 깃허브의 AI 에이전트가 사용자 질의에 응답할 때, 학습 데이터에 포함된 비공개 저장소의 코드 조각을 무심코 공개할 수 있음을 입증했습니다. 예를 들어, AI 에이전트에게 특정 비공개 저장소의 파일 구조나 코드 패턴을 묻는 방식으로 정보를 추출할 수 있었습니다. 이는 AI 모델이 학습 데이터의 출처를 명확히 구분하지 못하고, 민감한 정보를 필터링 없이 제공할 수 있다는 점을 보여주며, 대규모 언어모델(LLM) 기반 AI 서비스의 데이터 보안 문제에 대한 우려를 증폭시키고 있습니다.
이번 발견은 AI 기반 개발 도구의 보안 취약성이 현실적인 위협이 될 수 있음을 명확히 보여줍니다. 특히 기업의 핵심 기술이나 영업 비밀이 담긴 비공개 코드가 AI 에이전트를 통해 유출될 경우, 심각한 재정적 손실과 법적 문제로 이어질 수 있습니다. 깃허브와 같은 주요 플랫폼은 AI 서비스 도입 시 학습 데이터의 프라이버시 보호와 민감 정보 필터링에 대한 더욱 엄격한 기준과 기술적 보완책을 마련해야 할 필요성을 강조하는 사례입니다. 사용자들 역시 AI 도구 사용 시 입력하는 정보와 AI가 제공하는 정보의 신뢰성에 대해 주의를 기울여야 할 것입니다.