AI 콘텐츠 탐지 분야의 선두 주자인 판그램(Pangram)이 AI가 생성한 이미지와 영상을 식별하는 강력한 도구인 '판그램 이미지 1.0(Pangram Image 1.0)'과 '판그램 이미지 플래시 1.0(Pangram Image Flash 1.0)'을 공식 출시했습니다. 이 모델들은 디지털 콘텐츠의 진위 여부를 가리는 데 있어 전례 없는 정확도를 제공하며, 특히 이미지 1.0은 99.96%의 정확도로 AI 콘텐츠를 탐지해 디지털 환경의 신뢰성 문제를 해결하는 데 기여할 것으로 보입니다.
'판그램 이미지 1.0'은 이미지 내 AI 콘텐츠의 위치를 히트맵으로 시각화하여 보여주며, 심지어 실제 사진 속에 포함된 AI 생성 이미지 영역까지 정확하게 찾아냅니다. 자체 평가 결과, 12개 최신 이미지 생성 모델이 만든 1,200장의 합성 이미지를 99.96%의 정확도로 탐지하는 놀라운 성능을 보였습니다. 또한, 소셜 미디어 환경에서 흔히 발생하는 압축, 축소, 흐림, 노이즈 등의 변형에도 강건하게 대응하도록 학습되었으며, 최소 입력 크기를 256x256 픽셀로 낮춰 저해상도 이미지 탐지 능력도 개선했습니다. 한편, '판그램 이미지 플래시 1.0'은 영상 탐지에 특화된 더 작고 빠른 모델로, DF26 벤치마크에서 98.7%의 정확도를 기록하며 기존 탐지기보다 29%포인트 높은 성능을 입증했습니다. 이 모델은 업로드된 영상을 프레임별로 분석하여 AI 생성 구간을 식별할 수 있습니다.
이러한 AI 탐지 기술의 발전은 디지털 콘텐츠의 신뢰성 위기에 대응하는 중요한 진전입니다. AI 생성 콘텐츠가 급증하면서 가짜 정보(fake news)와 딥페이크(deepfake) 등으로 인한 사회적 혼란이 커지고 있는 상황에서, 판그램의 모델은 원본과 AI 생성물을 명확히 구분할 수 있는 기준을 제시합니다. 이는 언론, 소셜 미디어 플랫폼, 온라인 쇼핑몰 등 다양한 분야에서 콘텐츠의 진위를 검증하고 사용자들의 혼란을 줄이는 데 필수적인 역할을 할 것입니다. 또한, 크롬(Chrome) 확장 프로그램과 API를 통해 쉽게 접근할 수 있어 일반 사용자부터 기업까지 폭넓게 활용될 잠재력을 가지고 있습니다. 일각에서는 AI 탐지 기술이 결국 회피 기술과의 군비 경쟁으로 이어질 것이라는 우려도 있지만, 판그램의 기술은 현재까지 매우 견고한 성능을 보여주며 AI 콘텐츠의 책임 있는 사용을 유도하는 데 기여할 것으로 기대됩니다.