뉴스레터 플랫폼 서브스택(Substack)이 인공지능(AI)으로 생성된 텍스트를 탐지하는 새로운 기능을 도입합니다. 이 도구는 게시물, 노트, 댓글 등 플랫폼 내 모든 텍스트를 스캔하여 AI 개입 정도를 추정해 보여주며, 독자들이 콘텐츠의 출처에 대한 투명성을 확보하고 인간이 작성한 글과 AI가 생성한 글을 구분할 수 있도록 돕는 것이 목표입니다.
이번 AI 탐지 기능은 AI 탐지 전문 기업 패어그램(Pangram)의 기술을 활용하며, 웹과 iOS 앱에 먼저 적용되고 안드로이드 앱에도 곧 출시될 예정입니다. 독자들은 100단어 이상의 콘텐츠에서 메뉴를 통해 'AI 텍스트 스캔' 옵션을 선택하여 해당 글의 AI 생성 여부를 확인할 수 있습니다. 서브스택의 공동 창립자이자 CEO인 크리스 베스트(Chris Best)는 AI의 확산 속에서 독자들이 무심코 AI가 만든 콘텐츠에 시간을 투자하는 '클로드피싱(Claudefishing)' 현상이 문제라고 지적하며, 이 기능이 플랫폼의 투명성을 높일 것이라고 설명했습니다. 또한, 작가들은 자신의 글 작성 과정을 독자에게 설명할 수 있는 '내가 만든 방법(How I make this)' 기능을 활용해 AI 도구 사용 여부를 명확히 밝힐 수 있게 됩니다.
이러한 변화는 AI 기술이 콘텐츠 창작의 주류로 자리 잡으면서 발생하는 신뢰 문제를 해결하려는 노력의 일환입니다. AI 탐지 도구는 AI가 텍스트를 만드는 데 사용되었는지 여부만 감지할 뿐, 인간의 깊은 사고가 담겼는지 혹은 AI 도구가 자료 수집에 활용되었는지 여부는 판단하지 못합니다. 그럼에도 불구하고 서브스택은 독자들이 읽을 가치가 있는 콘텐츠를 선택하는 데 도움을 주고, AI로 인한 가짜 콘텐츠가 만연하여 작가들의 생계가 위협받는 상황을 막고자 합니다. 이는 결국 플랫폼 전반의 신뢰도를 높이고, 인간 창작자들의 노력이 정당하게 보상받는 환경을 조성하는 데 기여할 것으로 보입니다.