한 보안 연구자가 AMD CPU의 DRAM 컨트롤러에 존재하는 심각한 취약점을 발견하고, 이를 활용해 시스템의 모든 보안 메커니즘을 우회할 수 있는 기술 'DRAM 스크램블링'을 공개했습니다. 이 기술은 메모리 주소 변환의 최하위 계층을 조작하여 물리적인 DRAM 주소 매핑을 뒤섞고, 그 결과 커널조차 볼 수 없는 보호된 메모리 영역(카브아웃)을 노출시킵니다. 이는 CPU의 핵심 보안 기능인 플랫폼 보안 프로세서(PSP), 시스템 관리 모드(SMM), C6 DRAM, 심지어 CPU 마이크로코드까지 무력화할 수 있음을 의미합니다.
이번 연구는 특히 AMD 16h 계열 CPU(예: 엑스카베이터, 불도저 아키텍처 기반)에서 성공적으로 검증되었습니다. 이 세대의 데이터시트에는 DRAM 컨트롤러의 주소 변환 레지스터가 문서화되어 있으며, 이 레지스터들이 잠금(lock)될 수 없다는 사실이 명시되어 있습니다. 반면, 17h 이후 세대 CPU의 데이터시트에서는 이 정보가 의도적으로 누락되어 있습니다. 연구자는 메모리 주소 변환이 CPU 코어/MMU, IOMMU, 메모리 컨트롤러(MCT/IMC) 등 여러 추상화 계층을 거치는데, 이번 공격은 가장 깊은 MCT/IMC 계층에서 물리적 주소가 DIMM으로 전달되기 직전 최종적으로 재작성되는 지점을 노렸다고 설명합니다. 단 하나의 비트 플립(bit-flip)만으로 DRAM 컨트롤러를 재배선하여 데이터의 실제 위치를 변경할 수 있다는 것이 핵심입니다.
이러한 취약점은 현대 컴퓨팅 시스템의 근간을 이루는 메모리 보안 모델에 대한 근본적인 질문을 던집니다. 메모리 주소 변환이 깨지면, 그 위에 구축된 모든 보안 원시 요소(security primitives)가 무너지기 때문입니다. 이는 운영체제 커널의 보호를 우회하고, 펌웨어 수준의 공격을 가능하게 하며, 궁극적으로 시스템의 완전한 통제권을 탈취할 수 있는 잠재력을 가집니다. 비록 AMD 16h 계열 CPU에 초점을 맞췄지만, 연구자는 이러한 '주소 변환의 오디세이'가 다른 세대와 아키텍처(ARM, RISC-V 포함)에서도 유사하게 적용될 수 있으며, 이번 연구는 그 시작점에 불과하다고 경고합니다. 이는 향후 더 광범위한 CPU 아키텍처에서 유사한 보안 문제가 발견될 수 있음을 시사하며, 칩 설계 단계부터 메모리 컨트롤러의 보안 강화에 대한 중요성을 다시 한번 강조합니다.