구글(Google)이 구글 어스(Google Earth)에 인공지능(AI) 기반의 이미지 편집 기능을 도입한 지 단 하루 만에 해당 기능을 철회했습니다. 이 기능은 사용자가 텍스트 프롬프트(text prompt)를 입력하여 위성 이미지를 원하는 대로 수정할 수 있도록 설계되었으나, 현실 세계를 조작하는 AI 딥페이크(deepfake) 생성에 악용될 수 있다는 우려가 제기되면서 빠르게 중단 조치되었습니다.
디지털 디깅(Digital Digging)의 헨크 반 에스(Henk van Ess)는 이 기능을 활용해 멕시코 국경 근처에 난민을 추가하거나 가자 지구 병원 옆에 폭탄 흔적을 만드는 등 논란의 여지가 있는 이미지를 의도적으로 생성했습니다. 구글은 처음에는 생성된 이미지에 디지털 워터마크(watermark)가 포함되며 유해한 주제의 이미지 생성을 막는다고 밝혔지만, 반 에스는 워터마크가 있음에도 불구하고 하이브(Hive)의 AI 감지 도구를 속일 수 있었다고 지적했습니다. 그는 테스트 과정에서 어떤 프롬프트도 거부되거나 완화되지 않았다고 덧붙여, 구글의 초기 안전장치가 불충분했음을 시사했습니다.
구글은 구글 어스가 세상에 대한 신뢰할 수 있는 시각을 제공한다는 점을 강조하며, 비록 생성된 이미지가 다른 사용자에게 직접 표시되지는 않고 워터마크 처리되었지만, 정책을 위반하는 스크린샷이 공유되는 것을 확인했다고 밝혔습니다. 이에 따라 구글은 더 강력한 안전장치(guardrails)를 구현하기 위해 해당 기능을 일시적으로 중단하고, 추후 보완을 거쳐 재도입을 검토할 예정입니다. 이번 사례는 AI 기술이 현실과 접목될 때 발생할 수 있는 윤리적, 사회적 문제에 대한 경각심을 다시 한번 일깨워주고 있습니다.