최근 'IN THE WEIGHTS'라는 웹사이트가 등장해 사용자들이 자신의 이름이 다양한 인공지능(AI) 모델의 학습 가중치(weights) 안에 '살아 있는지' 확인할 수 있도록 하면서 큰 관심을 모으고 있습니다. 이 사이트는 사용자가 이름을 입력하면 GPT-5.5, Opus 4.8, Grok 4.20, Gemini 3.1 Lite, Llama 3.3 70B 등 총 13개 주요 AI 모델이 해당 인물에 대해 어떤 정보를 가지고 있는지 보여줍니다. 이는 AI 모델이 특정 인물을 얼마나 '기억'하고 있는지 간접적으로 확인하는 흥미로운 시도입니다.
'IN THE WEIGHTS'는 이름 입력 외에도 '오늘의 헤비급(TODAY'S HEAVYWEIGHTS)'이라는 섹션을 통해 볼프강 아마데우스 모차르트, 윌리엄 셰익스피어, 테일러 스위프트 등 유명 인물 20명의 순위를 보여줍니다. 이들 상위 20명은 모두 996점의 '강도(strength)'를 기록하며, 각 인물별 페이지에서 AI가 인식하는 상세 정보를 확인할 수 있습니다. 하지만 실제 사용자들의 경험에 따르면, AI가 제시하는 정보는 정확한 내용과 함께 상당한 양의 환각(hallucination), 즉 사실과 다른 내용을 지어내는 경우가 많아 주의가 필요합니다. 일부 사용자는 자신의 직업이나 경력과 전혀 무관한 정보가 제시되거나, 심지어 다른 사람의 정보와 혼동되는 사례도 보고했습니다.
이러한 현상은 대규모 언어모델(LLM)의 근본적인 한계를 다시 한번 보여줍니다. AI는 학습 데이터 내에서 패턴을 찾아내고 이를 바탕으로 새로운 텍스트를 생성하지만, 그 내용이 항상 사실과 일치하는 것은 아닙니다. 특히 정보가 부족한 개인에 대해서는 그럴듯하게 들리는 가상의 정보를 만들어내는 경향이 강합니다. 이번 'IN THE WEIGHTS' 사례는 AI가 특정 인물에 대한 정보를 얼마나 정확하게 파악하고 있는지에 대한 대중의 궁금증을 해소하는 동시에, AI가 생성하는 정보의 신뢰성에 대한 비판적 사고의 중요성을 일깨워주는 계기가 되고 있습니다. 사용자들은 AI가 제시하는 정보에 대해 맹목적으로 신뢰하기보다는, 항상 사실 여부를 확인하는 습관을 가져야 할 것입니다.