구글이 인공지능(AI)이 생성한 무효 제보가 급증하자 오픈소스 소프트웨어 취약점 보상 프로그램(Open Source Software Vulnerability Rewards Program) 운영을 일시 중단했습니다. 회사는 "자동화된 제보가 크게 늘었지만, 그 대부분이 유효하지 않다"고 밝히며, 내년 1분기에 프로그램 재개 여부를 발표할 예정입니다.
이번 중단은 지난 10월 1일부터 적용되었으며, 구글은 X(구 트위터)와 프로그램 웹사이트를 통해 이 사실을 공지했습니다. 톰스 하드웨어(Tom's Hardware)에 따르면, 구글 엔지니어와 오픈소스 관리자들은 AI가 생성한 잘못된 보고서나 환각(hallucinations) 현상이 포함된 제보들로 인해 업무 부담이 가중된 것으로 알려졌습니다. 이는 지난해부터 사이버 보안 전문가들이 AI가 생성한 '쓰레기(slop)' 정보가 버그 바운티 프로그램에 심각한 위험을 초래할 수 있다고 경고해 온 우려가 현실화된 사례로 볼 수 있습니다.
이번 구글의 결정은 AI 기술 발전이 가져오는 긍정적인 측면과 더불어, 정보의 신뢰성 저하 및 관리 부담 증가라는 그림자를 동시에 보여줍니다. 특히 오픈소스 생태계는 전 세계 개발자들의 자발적인 참여와 협력으로 유지되는데, AI 스팸으로 인해 이러한 협력의 효율성이 저해될 수 있다는 점에서 중요한 의미를 가집니다. 이는 AI 시대에 정보의 양적 증가뿐만 아니라 질적 관리가 얼마나 중요한 과제인지를 시사하며, 보안 취약점 발견과 같은 전문 영역에서도 AI 생성 콘텐츠의 신뢰성을 검증하는 새로운 시스템이나 접근 방식이 필요함을 보여줍니다.