최근 AI 봇이 웹사이트 정보를 더 잘 이해하도록 돕는다는 'llms.txt' 파일이 생성형 엔진 최적화(GEO, Generative Engine Optimisation)의 새로운 수단으로 주목받았습니다. 하지만 한 개발자가 'cats.txt'라는 가짜 고양이 표준 파일을 만들어 인터넷에 배포하는 실험을 통해, 'llms.txt'의 효과를 입증한다며 제시되던 기준들이 얼마나 허술한지 밝혀냈습니다.
이 실험의 핵심은 'llms.txt'가 AI 검색 노출에 도움이 된다는 근거로 제시된 네 가지 기준, 즉 AI 봇 크롤링, 구글(Google) 색인, 대규모 언어모델(LLM)의 파일 정보 답변, 챗GPT(ChatGPT)의 파일 생성 추천을 'cats.txt'도 모두 통과했다는 점입니다. 'cats.txt'는 웹사이트 고양이의 직책, 품종, 애정도를 기록하는 가짜 표준으로, 실제 웹 표준처럼 보이도록 과도하게 진지한 명세까지 작성되었습니다. 이 가짜 파일은 퍼플렉시티봇(PerplexityBot), GPT봇(GPTBot), 클로드봇(ClaudeBot), 구글봇(Googlebot) 등 다양한 AI 봇에 의해 크롤링되었고, 구글에 색인되었으며, 구글 AI 오버뷰(AI Overview)는 이 파일의 꾸며낸 정보를 바탕으로 존재하지 않는 고양이를 소개하기도 했습니다. 심지어 챗GPT는 처음에는 'cats.txt'가 검색엔진과 LLM 시스템 노출에 도움이 된다고 추천했지만, 이후 농담임이 밝혀지자 답변을 바꾸는 모습을 보였습니다.
이는 'llms.txt'가 특별한 효과를 가진다기보다, 공개된 텍스트 파일을 읽는 일반적인 크롤링과 검색 증강 생성(RAG, Retrieval Augmented Generation) 과정에서 발생한 현상임을 시사합니다. 즉, 봇이 파일을 크롤링하거나 구글이 색인했다는 사실만으로는 해당 파일의 내용이 신뢰받거나 검색 순위에 특별한 가중치를 받는다고 볼 수 없다는 것입니다. LLM이 파일 내용을 답변하는 것도 검색 결과에 파일이 노출되고 모델이 이를 읽었을 뿐, 특별한 정보원으로 지원한다는 의미가 아닙니다. 챗GPT의 추천 역시 인터넷에 반복되는 다수의 주장에 수렴한 결과일 가능성이 높습니다.
이번 'cats.txt' 실험은 'llms.txt' 자체의 미래 가능성을 부정하는 것이 아니라, 현재 이를 생성형 엔진 최적화 수단으로 판매할 때 제시되는 증거의 수준이 지나치게 낮다는 점을 비판합니다. 검증되지 않은 새로운 GEO 전술에 시간과 비용을 들이기보다는, 이미 가치가 확인된 기존의 최적화 작업에 집중하는 것이 더 현명할 수 있습니다. '봇이 크롤링했다'거나 '챗GPT가 도움이 된다고 말했다'는 관찰만으로는 실제 효과를 입증할 수 없으며, 고양이의 직업과 가르랑거림을 기록한 가짜 파일도 같은 기준을 통과했다는 사실이 이를 명확히 보여줍니다.