엔비디아(NVIDIA)가 윈도우(Windows) PC 시장에 새로운 고성능 시스템 구성을 제안하며 주목받고 있습니다. 이 시스템의 핵심은 CPU와 GPU가 128GB의 대용량 메모리를 공유하는 통합 메모리 아키텍처를 채택했다는 점입니다. 최대 6,144개의 최신 쿠다(CUDA) 코어를 제공하는 이 구성은 특히 로컬 인공지능(AI) 모델 실행에 최적화되어, 데이터센터 외부에서 AI 워크로드를 처리하려는 수요를 겨냥하고 있습니다.
제안된 시스템의 CPU는 성능 코어 10개와 효율 코어 10개로 구성되며, 성능 코어는 ARM의 코어텍스-X925(Cortex-X925) 기반입니다. 통합 메모리 방식은 애플(Apple)이 이미 맥(Mac) 시리즈에서 수년 전부터 채택해온 방식과 유사합니다. 이는 전용 GPU 메모리보다 속도는 다소 느릴 수 있지만, CPU와 GPU 간의 데이터 복사(zero-copy)를 없애 데이터 전송 병목 현상을 줄이고, 로컬 AI 모델 실행에 필요한 대역폭을 저렴한 비용으로 제공하는 장점이 있습니다. 엔비디아는 이 시스템이 학생 규모의 AI 실험이나 특정 워크로드에서 피크 GPU TFLOPs보다 128GB의 대용량 공유 메모리가 더 중요할 수 있다고 강조합니다.
이러한 엔비디아의 움직임은 개인용 PC에서 로컬 AI 모델 실행의 중요성이 커지고 있음을 시사합니다. 로컬 AI는 민감한 데이터를 외부 서버로 보내지 않아도 되는 보안상의 이점과 함께, SaaS 구독 비용이나 토큰 사용료를 절감할 수 있다는 장점이 있습니다. 또한, 사용자의 PC 사용 행동을 학습하여 개인화된 작업을 수행하는 등 새로운 사용자 경험을 제공할 잠재력도 있습니다. 그러나 일각에서는 128GB 메모리가 최신 대규모 언어 모델(LLM)을 구동하기에는 부족하며, 256GB 또는 512GB 이상의 메모리가 필요하다는 의견도 제기되고 있습니다. 인텔(Intel)과 AMD 역시 유사한 통합 메모리 아키텍처를 가진 제품들을 선보일 예정이어서, 향후 PC 시장의 경쟁 구도에 큰 변화가 예상됩니다.