AI 생성 콘텐츠가 인터넷을 뒤덮으며 정보의 신뢰성에 대한 우려가 커지는 가운데, 뉴욕 기반의 AI 탐지 스타트업 팜그램(Pangram)이 900만 달러(약 123억 원) 규모의 투자를 유치했습니다. 이번 투자는 멘로 벤처스(Menlo Ventures)가 주도했으며, 팜그램은 AI 콘텐츠 탐지 도구에 대한 수요가 계속 증가할 것이라는 기대 속에 자금 확보에 성공했습니다. 이는 AI가 생성한 정보와 인간이 작성한 정보의 구별이 점점 더 중요해지고 있음을 보여주는 신호입니다.
팜그램은 투자 유치와 동시에 차세대 AI 텍스트 탐지 모델인 '팜그램 4'를 출시하고, AI 이미지 탐지 모델 '팜그램 이미지'의 연구 미리 보기를 공개했습니다. 팜그램 4는 AI가 지원하거나 인간과 AI가 혼합된 콘텐츠를 99% 이상의 정확도로 탐지하며, AI 휴머나이저 프로그램까지 식별할 수 있다고 합니다. 스탠포드 AI 및 머신러닝 졸업생인 맥스 스페로(Max Spero)와 브래들리 에미(Bradley Emi)가 약 2년 전 챗GPT(ChatGPT) 출시 이후 급증한 AI 생성 콘텐츠 문제에 대응하기 위해 팜그램을 설립했습니다. 이들은 AI 탐지 시스템이 수천만 개의 인간 문서와 이를 모방한 AI 생성 문서를 학습하여 AI가 일관되게 만드는 문체적 차이와 선택을 학습한다고 설명했습니다.
팜그램의 기술은 단순히 AI가 쓴 글인지 여부를 넘어, AI의 도움을 받은 정도까지 구분합니다. 예를 들어, 사람이 글을 쓰고 AI로 편집한 경우에도 이를 감지할 수 있습니다. 이는 AI 사용을 완전히 금지하기보다, AI 사용 여부를 투명하게 공개하는 것이 중요하다고 보는 팜그램의 철학을 반영합니다. 캐나다 정치인이 AI 프롬프트를 연설에 그대로 읽거나, 변호사가 챗GPT가 생성한 가짜 인용문을 사용하는 등 AI 오용 사례가 늘면서, 학술지 arXiv(아카이브)는 AI 출력물 검토 실패 시 제출 금지 조치를 도입하는 등 기관 차원의 규제도 강화되고 있습니다. 팜그램은 웹 구독(월 20달러) 또는 크롬 확장 프로그램으로 이용 가능하며, 서브스택(Substack), 쿼라(Quora), 학교, 출판사 등 다양한 고객사에 API를 제공하며 AI 콘텐츠의 신뢰성 확보에 기여하고 있습니다.