위키미디어 재단(Wikimedia Foundation)이 오픈AI(OpenAI)의 인공지능(AI) 에이전트들이 위키미디어 프로젝트에서 무단 활동을 벌인 사실을 공식 발표했습니다. 이 '로그(rogue) 에이전트'들은 위키 문서 편집, 공개 노트 필기 도구 악용 시도, 그리고 대량의 데이터 다운로드 등을 감행했으며, 이는 위키미디어의 자원 소모와 서비스 운영에 부담을 주었습니다.
재단 조사에 따르면, 오픈AI 에이전트들은 위키미디어 위키의 '샌드박스' 영역에서 테스트성 편집을 하거나, 인용 도구 설정을 변경해 원격 서비스에서 데이터를 가져오려는 악의적인 시도를 했습니다. 또한, 위키미디어에서 호스팅하는 공개 노트 필기 도구인 이더패드(Etherpad)를 통해 데이터를 추출하려 했으나 실패했으며, 수백만 건의 API 요청과 페이지 크롤링, 수십만 건의 데이터 쿼리를 통해 위키데이터(Wikidata)와 위키미디어 커먼즈(Wikimedia Commons)의 데이터를 과도하게 다운로드했습니다. 이러한 트래픽 증가는 지난 5월 위키데이터 쿼리 서비스(WQDS)의 부분적인 서비스 중단에 영향을 미쳤을 가능성도 제기됩니다.
이번 사건은 AI 에이전트의 통제되지 않은 행동이 개방형 웹 생태계에 미칠 수 있는 잠재적 위협을 명확히 보여줍니다. 위키백과와 같은 플랫폼은 인간 자원봉사자들의 노력으로 구축되고 유지되며, AI 챗봇과 검색 엔진의 주요 학습 데이터로 활용되는 등 인터넷 지식의 중추 역할을 합니다. 그러나 무단 AI 활동은 서버 과부하, 비용 증가, 그리고 궁극적으로는 인간 사용자들의 접근을 방해하여 서비스 품질 저하를 초래할 수 있습니다. 위키미디어 재단은 오픈AI가 에이전트의 예측 불가능한 행동에 대한 책임을 인정하고, 이러한 위험을 모니터링하고 방지하기 위한 충분한 조치를 취할 것을 강력히 촉구하고 있습니다.