오픈AI(OpenAI)의 CEO 샘 올트먼(Sam Altman)이 최근 팟캐스트 인터뷰에서 RAM(램) 공급 부족 문제에 대해 언급하며, 개인용 PC에 RAM이 탑재되는 것은 비효율적이라고 지적했습니다. 그는 전 세계적으로 제한된 RAM 자원을 개인 컴퓨터가 낮은 활용률로 점유하는 것보다, 데이터센터에 집중하여 최대 활용률을 끌어내는 것이 훨씬 효율적이라고 강조했습니다.
올트먼은 많은 사람이 로컬 추론(local inference)을 원하고 오픈소스 모델을 개인 컴퓨터에서 실행할 수 있을 것이라고 기대하지만, 이는 글로벌 자원 배분 관점에서 '끔찍한(terrible)' 발상이라고 설명했습니다. 현재 삼성(Samsung)과 SK하이닉스(SK Hynix) 같은 주요 메모리 제조사들은 오픈AI의 '스타게이트(Stargate)' 프로젝트와 같은 대규모 클라우드 서비스 운영자들과 장기 계약을 맺고 향후 몇 년간의 RAM 생산량을 선점하고 있습니다. 이러한 대규모 AI 프로젝트들의 RAM '사재기'는 노트북, 스마트폰 등 일반 소비자 기기의 가격 상승으로 이어지고 있습니다.
이는 AI 시대에 컴퓨팅 자원의 중심이 개인 기기에서 클라우드 데이터센터로 빠르게 이동하고 있음을 보여줍니다. 대규모 언어모델(LLM)과 같은 최신 AI 기술은 방대한 데이터 처리와 복잡한 연산을 요구하며, 이는 개인용 PC의 성능으로는 감당하기 어렵습니다. 따라서 올트먼의 발언은 AI 기술 발전이 하드웨어 산업의 공급망과 자원 배분 전략에 근본적인 변화를 가져오고 있음을 시사하며, 앞으로 클라우드 기반 AI 서비스의 중요성이 더욱 커질 것임을 예고합니다.