테슬라(Tesla)와 오픈AI(OpenAI)에서 AI 분야를 이끌었던 앤드류 카르파티(Andrej Karpathy)가 인공지능(AI) 챗봇과 상호작용하는 새로운 방식을 제안했습니다. 그는 AI에게 곧바로 핵심 질문을 던지기보다, 마치 친구와 대화하듯 10분 정도 '횡설수설(ramble)'하며 관련 없는 이야기나 생각을 자유롭게 쏟아내는 것이 더 좋은 답변을 얻는 비결이라고 밝혔습니다. 이 독특한 접근 방식은 AI가 사용자의 사고방식과 맥락을 더 깊이 이해하도록 돕는다는 설명입니다.
카르파티는 이러한 과정을 'AI 예열(warming up AI)'이라고 표현하며, AI가 사용자의 정신 모델(mental model)을 구축하는 데 필요한 시간이라고 강조했습니다. 예를 들어, 특정 주제에 대해 질문하기 전에 그 주제와 관련된 개인적인 경험, 생각, 심지어는 무작위적인 아이디어까지 공유하는 것입니다. 이는 AI가 단순히 정보 검색 엔진처럼 작동하는 것을 넘어, 사용자의 의도와 배경 지식을 파악하여 보다 맞춤화되고 심층적인 답변을 생성할 수 있게 합니다. 마치 사람과 대화할 때 서로의 생각을 알아가는 과정과 유사합니다.
이러한 '횡설수설' 기법은 대규모 언어모델(LLM)의 작동 방식에 대한 중요한 통찰을 제공합니다. LLM은 단순히 프롬프트에 담긴 키워드만을 분석하는 것이 아니라, 대화의 전체적인 흐름과 맥락, 사용자의 잠재적 의도를 파악하려 노력합니다. 따라서 충분한 '예열' 시간을 통해 AI에게 더 많은 정보를 제공하면, AI는 사용자의 질문에 대한 표면적인 답변을 넘어, 숨겨진 요구사항까지 충족시키는 고품질의 결과물을 내놓을 가능성이 커집니다. 이는 효과적인 프롬프트 엔지니어링(prompt engineering)의 새로운 지평을 열며, AI를 단순한 도구가 아닌 협력적인 파트너로 활용하는 방법을 제시합니다.