오픈AI의 코드 생성 인공지능(AI) 모델인 코덱스(Codex) 사용자들이 데이터 공유 설정이 자신도 모르게 재활성화되었다고 주장하며 논란이 일고 있습니다. 기업들은 프롬프트(prompt)를 통해 민감한 지적 재산(IP)이 AI 개발사에 유출될까 우려해 데이터 공유를 비활성화해왔는데, 이 설정이 자동으로 다시 켜진 것을 발견했다는 것입니다. 이는 AI 모델 학습을 위한 사용자 데이터 활용 정책의 투명성과 신뢰성에 대한 의문을 제기하고 있습니다.
한 해커 뉴스(Hacker News) 사용자는 자신의 회사 동료들과 함께 코덱스에서 '모두를 위한 모델 개선(Improve the model for everyone)' 설정이 자동으로 활성화된 것을 확인했다고 밝혔습니다. 이 설정은 사용자의 대화 데이터를 모델 학습에 활용할지 여부를 결정하는 것으로, 많은 기업이 IP 보호를 위해 비활성화해왔습니다. 과거에도 유사한 사례가 보고된 바 있으며, 앤트로픽(Anthropic)이나 마이크로소프트(Microsoft) 애저(Azure)와 같은 다른 AI 서비스에서도 특정 대화 내용이 플래그(flag)될 경우 데이터 보존 및 학습에 활용될 수 있다는 주장이 제기되면서, 사용자 동의 없이 데이터가 활용될 가능성에 대한 우려가 커지고 있습니다.
이러한 자동 재활성화 논란은 AI 서비스 제공업체와 사용자 간의 신뢰 관계에 심각한 균열을 초래할 수 있습니다. 특히 기업 고객의 경우, 민감한 코드나 기밀 정보를 다루는 과정에서 데이터 유출 위험을 매우 중요하게 여기기 때문에, 설정 변경에 대한 명확한 고지나 동의 없이 데이터가 학습에 사용된다면 서비스 이용을 재고할 수 있습니다. 미국 연방거래위원회(FTC) 역시 AI 서비스 제공업체들의 사용자 데이터 처리 방식에 대해 불공정하거나 기만적인 거래 관행이 될 수 있다고 경고한 바 있어, 이번 논란은 AI 업계 전반의 데이터 거버넌스(data governance) 문제로 확산될 가능성이 있습니다.