게임을 하지 않을 때의 게이밍 PC, 밤새 켜둔 홈 서버, 또는 사용률이 낮은 워크스테이션처럼 개인 장비에 흩어져 있는 그래픽카드(GPU)를 모아 인공지능(AI) 작업을 수행하는 새로운 컴퓨팅 시장이 형성되고 있습니다. 대규모 데이터센터를 새로 건설하는 대신, 이미 개인에게 판매된 장비의 유휴 자원을 활용해 AI 추론(inference) 작업을 분산 처리하고, 장비 소유자에게는 사용료의 일부를 지급하는 방식입니다.
이러한 분산 컴퓨팅 모델을 추진하는 대표적인 회사로는 아부다비의 파 랩스(FAR Labs)와 미국 오스틴의 이볼빙 엣지(Evolving Edge)가 있습니다. 파 랩스는 게이머의 GPU를 연결하는 '파 AI(FAR AI)' 플랫폼을 개발 중이며, 이볼빙 엣지는 가정용 PC와 홈 서버의 유휴 자원을 활용해 콘텐츠 전송망(CDN)을 시작으로 AI 추론 서비스로 확장할 계획입니다. 이들은 기존 클라우드 서비스인 Vast.ai나 아카시 네트워크(Akash Network)와 유사하게 개인의 GPU를 AI 연산 공급망으로 끌어들이고 있습니다. 특히, AI 모델을 처음부터 학습시키는 데 필요한 막대한 자원과 달리, 이미 학습된 모델을 실행하는 추론 작업은 개별 요청이 독립적이어서 분산된 게이밍 GPU로도 충분히 처리할 수 있다는 점에 주목하고 있습니다.
이러한 분산형 AI 추론 서비스는 여러 가지 장점을 가집니다. 첫째, 데이터센터 구축에 필요한 막대한 자본 지출(CapEx) 없이 기존 인프라를 활용하므로 비용 효율성이 높습니다. 둘째, 단일 대규모 시설이 아닌 수많은 장비에 분산되어 있어 특정 지점의 장애에 덜 취약한 복원력을 제공합니다. 셋째, 사용자와 가까운 장비에서 작업을 처리함으로써 지연 시간(latency)을 줄여 반응 속도를 향상시킬 수 있습니다. 이는 게임 내 실시간 AI 영상 생성과 같은 새로운 응용 분야를 가능하게 할 잠재력을 가집니다.
그러나 아직 해결해야 할 과제도 많습니다. 가장 큰 문제는 가용성(availability)입니다. 개인 PC는 언제든 꺼지거나 다른 작업에 사용될 수 있어 데이터센터 서버처럼 24시간 일정한 환경을 보장하기 어렵습니다. 또한, 장비마다 다른 인터넷 속도, GPU 성능, 메모리 구성 등 이질적인 환경을 통합 관리하는 기술적 난이도도 높습니다. 보안 문제 역시 중요합니다. 장비 소유자와 고객 모두에게 데이터와 모델의 보안을 보장해야 하며, 파 랩스 등은 작업을 격리된 환경에서 실행하고 통신을 암호화하는 등의 방안을 모색하고 있습니다.
장비 소유자 입장에서는 GPU를 지속적으로 가동할 경우 발생하는 전기요금과 장비 수명 단축에 대한 보상이 충분해야 참여 유인이 생깁니다. 결국, 수요자에게는 기존 클라우드보다 저렴한 가격을, 공급자에게는 전기요금을 상회하는 보상을 동시에 제공할 수 있어야 이 생태계가 지속 가능합니다. 현재로서는 개인 GPU가 데이터센터를 완전히 대체하기보다는, 비용에 민감하고 독립적으로 쪼갤 수 있는 일부 AI 추론 작업을 보완하는 역할에 더 가깝습니다. 하지만 이러한 움직임은 AI 연산 자원의 민주화를 촉진하고, 새로운 컴퓨팅 패러다임을 제시한다는 점에서 중요한 의미를 가집니다.