최근 앤트로픽(Anthropic)의 CEO 다리오 아몬데이(Dario Amodei)는 AI 기술의 발전이 기하급수적(exponential)으로 이루어지고 있다고 여러 차례 강조했습니다. 이는 AI가 인간 지능을 능가하는 특이점(singularity)에 빠르게 도달할 수 있다는 낙관적인 전망과 일맥상통하는 주장입니다. 그러나 흥미롭게도, 앤트로픽의 자체 연구 결과는 이러한 CEO의 주장과는 다소 다른 시각을 제시하고 있어 업계의 주목을 받고 있습니다.
앤트로픽의 연구진이 발표한 논문은 AI 모델의 성능 향상이 과거처럼 빠르게 이루어지지 않을 수 있음을 시사합니다. 특히, 대규모 언어모델(LLM)의 학습에 필요한 컴퓨팅 자원(compute)이 기하급수적으로 증가하는 데 비해, 실제 모델의 성능 향상은 그에 미치지 못할 수 있다는 분석입니다. 이는 특정 시점 이후에는 더 많은 자원을 투입하더라도 성능 개선의 폭이 줄어드는 수확 체감(diminishing returns) 현상이 나타날 수 있음을 의미합니다. 연구는 AI 모델의 아키텍처 혁신이나 데이터 효율성 개선 없이는 단순히 컴퓨팅 파워를 늘리는 것만으로는 한계에 부딪힐 수 있다고 지적합니다.
이러한 앤트로픽 내부의 상반된 시각은 AI 산업 전반에 걸쳐 중요한 함의를 가집니다. AI 발전의 속도에 대한 이해는 투자 전략, 연구 개발 방향, 그리고 정책 수립에 결정적인 영향을 미치기 때문입니다. 만약 AI 성장이 선형적(linear)이거나 수확 체감의 법칙을 따른다면, 현재의 과도한 낙관론은 재고될 필요가 있습니다. 이는 또한 AI 기술의 상업적 활용과 실제 사회에 미치는 영향에 대한 보다 현실적인 접근을 요구하며, 장기적인 관점에서 AI 연구의 새로운 돌파구와 효율적인 방법론을 모색해야 할 필요성을 강조합니다.