메타(Meta)의 인공지능(AI) 챗봇이 사용자에게 사생활을 침해할 수 있는 개인 정보를 묻는 질문을 제안해 논란이 커지자, 메타가 해당 기능을 수정하겠다고 발표했습니다. 이 문제는 한 인스타그램(Instagram) 사용자의 바이럴 영상으로 수면 위로 떠올랐으며, 메타는 자사 AI가 "선을 넘었다(missed the mark)"고 인정하며 재발 방지를 약속했습니다.
논란은 인스타그램 사용자 칼리 로빈스(Kalie Robins)가 페이스북(Facebook)에 게시한 영상에서 시작되었습니다. 그녀가 자녀와 함께 차 안에서 노래하는 영상 아래에 메타 AI가 "어린이 승객은 누구인가요?"라는 침해적인 질문을 제안한 것입니다. 로빈스가 이 질문을 선택하자, 메타 AI는 그녀의 과거 게시물과 친척들의 게시물에서 자녀에 대한 정보를 취합하여 자녀의 나이나 가족 거주지 등 추가적인 개인 정보를 묻는 질문을 제시했습니다. 심지어 로빈스가 몇 년 전에 삭제했다고 주장하는 자녀들의 사진까지 보여주면서 사용자들을 경악하게 했습니다. 메타 AI는 페이스북, 인스타그램, 왓츠앱(WhatsApp), 메신저(Messenger) 등 메타의 주요 플랫폼에 통합되어 질문 답변, 게시물 작성, 이미지 생성 등 다양한 기능을 제공하고 있습니다.
메타 대변인 디나 엘-카사비(Dina El-Kassaby)는 "이 기능이 사용자에게 그런 질문을 제안해서는 안 됐다"고 인정하며, 개인 정보 관련 제안을 유발했던 문제를 수정했다고 밝혔습니다. 메타는 이 기능이 사용자가 관심 있는 주제나 게시물에 대한 더 많은 정보를 얻도록 돕기 위해 만들어졌으며, AI가 생성하는 답변은 사용자가 이미 접근 가능한 정보에 기반한다고 설명했습니다. 이번 사건은 AI 기술이 일상생활에 깊숙이 파고들면서 개인 정보 보호와 윤리적 사용에 대한 기업의 책임이 얼마나 중요한지를 다시 한번 상기시키는 계기가 되었습니다. 특히 민감한 개인 정보, 특히 아동 관련 정보에 대한 AI의 접근 및 활용에 더욱 엄격한 기준과 통제가 필요하다는 목소리가 커질 것으로 예상됩니다.