최근 앤드류 카파시(Andrej Karpathy)의 마이크로GPT(microGPT)를 기반으로 한 대규모 언어모델(LLM) 워터마킹(watermarking)의 최소 구현체가 공개되어 주목받고 있습니다. 이 프로젝트는 순수 파이썬(Python)으로 작성되었으며, 별도의 라이브러리 없이 몇 줄의 코드로 LLM 출력에 워터마크를 삽입하고 감지하는 방법을 보여줍니다. 이는 AI가 생성한 텍스트의 출처를 식별하는 중요한 기술적 진전으로 평가됩니다.
이 워터마킹 기술의 핵심 아이디어는 LLM이 다음 토큰을 샘플링하는 방식에 있습니다. 일반적인 텍스트 생성은 GPT가 확률 분포를 생성하고 무작위 샘플링을 통해 다음 토큰을 선택합니다. 반면, 워터마크가 적용된 생성은 동일한 확률 분포를 사용하되, 비밀 키(secret key)가 적용된 검벨 샘플링(Gumbel sampling) 방식을 사용합니다. 이 워터마크는 텍스트 내에 눈에 보이는 표시를 남기지 않으며, 여러 토큰 선택에 걸쳐 통계적으로 나타나고 동일한 비밀 키를 통해 감지될 수 있습니다. 실험 결과, 워터마크가 적용된 텍스트와 일반 텍스트는 육안으로는 구별하기 어렵지만, 감지기는 압도적인 신뢰도로 워터마크를 식별해냈습니다.
이 기술은 AI 안전(AI safety) 및 책임감 있는 AI 개발에 중요한 의미를 가집니다. 딥페이크(deepfake)나 가짜 뉴스(fake news)와 같이 AI가 생성한 콘텐츠의 오용이 증가하는 상황에서, 이 워터마킹 기술은 콘텐츠의 진위 여부를 판별하고 출처를 추적하는 데 필수적인 도구가 될 수 있습니다. 특히 모델의 출력 품질을 저하시키지 않으면서 워터마크를 삽입할 수 있다는 점은 실제 적용 가능성을 높이며, 향후 AI 콘텐츠 관리 및 규제 논의에도 중요한 영향을 미 미칠 것으로 예상됩니다.