최근 대규모 언어모델(LLM)의 학습 데이터 출처를 명확히 추적할 수 있는 새로운 기술인 '그래피티(Graffiti)'가 발표되었습니다. 이 기술은 LLM이 특정 답변을 생성할 때 사용된 원본 데이터를 식별하고 그 출처를 밝혀주는 것을 목표로 합니다. 이는 LLM의 고질적인 문제인 환각(hallucination) 현상을 줄이고, 학습 데이터의 저작권 및 편향성 문제를 해결하는 데 중요한 역할을 할 것으로 기대됩니다.
그래피티는 LLM 학습 과정에서 데이터에 고유한 '표식'을 남기는 방식으로 작동합니다. 마치 예술가가 작품에 서명을 남기듯, 각 학습 데이터 포인트가 모델 내부에 어떤 흔적을 남겼는지 기록하는 것입니다. 이를 통해 모델이 특정 질문에 답변할 때, 어떤 원본 데이터가 그 답변에 가장 큰 영향을 미쳤는지 역추적할 수 있게 됩니다. 기존에는 LLM이 방대한 데이터를 학습한 후에는 특정 정보의 출처를 파악하기 매우 어려웠으나, 그래피티는 이러한 불투명성을 해소하려는 시도입니다.
이 기술은 LLM의 신뢰성과 투명성을 크게 향상시킬 잠재력을 가지고 있습니다. 사용자들은 LLM이 제공하는 정보의 근거를 확인할 수 있게 되어, 잘못된 정보에 대한 우려를 덜 수 있습니다. 또한, 콘텐츠 창작자나 기업 입장에서는 자신의 데이터가 LLM 학습에 어떻게 활용되었는지 파악하고, 필요한 경우 저작권 침해 여부를 주장할 수 있는 기반을 마련하게 됩니다. 이는 AI 기술의 윤리적 사용과 책임 있는 개발을 위한 중요한 진전이며, 장기적으로 LLM 생태계의 건전한 발전에 기여할 것입니다.