오는 7월 1일부터 국내 온라인 커뮤니티 및 포럼 사업자들은 새로운 전기통신사업법 시행령에 따라 사용자들의 모든 이미지를 인공지능(AI)으로 검열하고 필터링해야 하는 의무를 지게 됩니다. 이는 유해 이미지 확산을 막기 위한 조치로, 웹사이트 운영자들은 직접 엔비디아(NVIDIA) GPU를 구매하고 AI 서빙 및 소프트웨어를 구축해야 하는 부담을 안게 되었습니다.
이러한 상황에 대응하여 '빅브라더'라는 이름의 AI 이미지 검열 오픈소스 도구가 깃허브(GitHub)에 공개되었습니다. MIT 라이선스로 배포되는 이 도구는 유해물 감지 AI 모델을 엔비디아(NVIDIA) GPU에 쉽게 서빙하여 이미지를 필터링할 수 있도록 설계되었습니다. 또한, 이미 필터링된 유해 이미지의 해시(Hash) 값을 저장하는 '해시 뱅크(Hash bank)' 기능을 포함하여, 동일한 이미지는 GPU 연산 없이 빠르게 필터링할 수 있어 효율성을 높였습니다.
이 오픈소스 도구의 등장은 커뮤니티 사업자들이 법적 의무를 이행하는 데 실질적인 도움을 줄 것으로 기대됩니다. 특히, 자체적인 AI 시스템 구축이 어려운 중소 규모 커뮤니티나 개인 운영자들에게 큰 도움이 될 수 있습니다. 개발자는 이 도구를 통해 '투명한 검열'이 이루어지기를 바라며, 검열이 불가피하다면 그 수단이라도 투명해야 한다는 취지를 강조했습니다. 이는 규제 준수와 더불어 사용자 신뢰를 확보하는 데 중요한 역할을 할 것입니다.