메타(Meta)가 오래된 DDR4 메모리를 최신 서버에서 재사용하기 위해 맞춤형 CXL(Compute Express Link) 브리지 칩인 '비스타라(Vistara)'를 개발했습니다. 이 기술을 통해 메타는 일부 추론(inference) 워크로드에서 필요한 서버 수를 최대 25%까지 줄이고, 메모리 부족(OOM)으로 인한 작업 실패 및 리소스 단편화 오버헤드를 33% 감소시키는 등 데이터센터 운영 효율을 크게 개선했습니다. 이는 서버와 메모리의 수명 차이에서 발생하는 자원 낭비를 줄이는 중요한 시도입니다.
메타의 서버 플릿 중 약 40%는 메모리 증설이 어려워 특정 워크로드 처리에 한계가 있었습니다. 서버의 기대 수명이 3~5년인 반면, 메모리는 7~10년까지 유용하게 사용할 수 있어 수명 차이가 큽니다. 이러한 비효율을 해결하기 위해 메타는 구형 서버에서 회수한 DDR4 DIMM을 새로운 시스템에 장착, 공유 가능한 메모리 풀로 구성했습니다. 기존 CXL 솔루션은 대부분 DRAM과 컨트롤러를 함께 묶어 DIMM 재사용이 어렵고 DDR4 지원이 부족했지만, 메타의 비스타라 ASIC은 DDR4 메모리를 CXL 2.0/1.1 호환 PCIe Gen5 x16 인터페이스로 연결하여 이러한 제약을 우회합니다. 각 비스타라 칩은 2개의 독립적인 72비트 DDR4 메모리 채널을 통해 최대 256GB의 DDR4를 지원하며, 맞춤형 RISC-V 프로세서 2개로 구동됩니다. 이 비스타라 칩은 '멤서버(MemServer)'라는 장치에 탑재되어 AMD 튜린(Turin) 프로세서와 768GB DDR5, 그리고 256GB DDR4를 결합하며, DDR4는 운영체제(OS)에 CPU 없는 별도 NUMA 노드로 노출됩니다.
이러한 CXL 기반 확장 메모리는 추천 시스템의 임베딩 테이블을 포함한 분리형 머신러닝(ML) 추론, 빅데이터 처리, 분산 캐시 등 다양한 워크로드에 적용되었습니다. 특히 스파크(Spark)나 하이브(Hive) 같은 빅데이터 도구는 테라바이트(TB) 규모의 데이터를 다루며 작업당 수백 GB의 메모리를 요구하는데, 여기서 발생하는 OOM 이벤트는 핵심 비즈니스 분석 및 ML 파이프라인을 중단시킬 수 있습니다. CXL로 확장된 메모리 여유는 OOM 위험을 줄여 작업 실패와 재시작 오버헤드를 크게 낮추고, 결과적으로 높은 메모리 가격을 피하면서 운영 비용을 절감하는 효과를 가져왔습니다. 이는 하이퍼스케일 데이터센터 운영자들이 직면한 자원 효율성 및 비용 문제에 대한 혁신적인 해결책을 제시하며, 향후 메모리 활용 방식에 중요한 변화를 가져올 것으로 예상됩니다.