안드레이 카르파티(Andrej Karpathy)는 대규모 언어모델(LLM)의 실제 능력에 대한 대중과 전문가 집단의 이해 격차가 심각하게 벌어지고 있다고 경고했습니다. 그는 이 간극이 단순한 오해를 넘어선 '날카로운 깔때기' 형태를 띠고 있으며, 기술의 급격한 발전 속도에 비해 대중의 인식이 현저히 뒤처지고 있다고 분석했습니다.
카르파티의 분석에 따르면, 전 세계 인구의 약 75%인 60억 명은 LLM을 거의 접해보지 못했습니다. 약 10억~20억 명(20%)은 무료 챗GPT 같은 제품을 가끔 사용하는 수준으로, LLM을 그저 나은 검색 도구나 글쓰기 보조 도구 정도로 인식합니다. 반면, 수학 및 코딩 분야의 최첨단 LLM을 전문적으로 사용하는 약 2천만 명(0.2%)은 수주에서 수개월 걸리던 복잡한 프로젝트를 LLM 에이전트가 프롬프트만으로 완성하는 것을 직접 경험하고 있습니다. 심지어 약 5천 명(0.00006%)에 불과한 최상위 접근 권한을 가진 이들은 수천 개의 에이전트가 협력하여 수년이 걸릴 소프트웨어 메가 프로젝트, 사이버 공격 및 방어, 과학 발견 등을 기계 속도로 수행하는 수준을 목격하고 있습니다.
이러한 이해 격차는 세 가지 요인으로 인해 발생합니다. 첫째, LLM의 영향력은 사용자의 야망, 문제의 크기, 그리고 목표의 범위에 따라 달라집니다. 단순한 질문에는 LLM의 진정한 능력이 발휘되지 않으며, 크고 어려운 문제를 다룰 때 비로소 그 잠재력이 드러납니다. 둘째, LLM 시스템의 '들쭉날쭉한' 특성입니다. LLM은 디지털화되고 검증 가능하며 경제적 가치가 있는 분야에서 특히 강력한 능력을 발휘합니다. 이는 수익 잠재력에 따라 엄선된 환경에서 검증 가능한 보상에 대한 강화 학습(reinforcement learning)을 통해 LLM의 능력이 발현되기 때문입니다. 셋째, LLM에 대한 접근성 차이입니다. 무료, 유료, 그리고 내부 시스템 접근 권한에 따라 경험하는 LLM의 수준이 현격히 다릅니다. 이러한 복합적인 요인들이 동시에 작용하며 대중과 소수 전문가 간의 LLM 이해 격차를 심화시키고 있습니다. 이는 현재 기술 발전의 가장 기묘한 지점이며, 우리가 이 현상을 어떻게 이해하고 대응할지가 중요한 과제로 떠오르고 있습니다.