최근 GitHub에 공개된 6건의 SQLite 취약점이 미국 국립 취약점 데이터베이스(NVD)와 CISA(사이버 보안 및 인프라 보안국)의 공인 데이터 발행자(ADP)로부터 '심각(Critical)' 등급을 받으며 보안 업계에 비상이 걸렸습니다. 하지만 Jfrog의 연구팀이 공식 SQLite 버전을 도커(Docker)에서 빌드하고 AddressSanitizer(ASan)로 검증한 결과, 이 취약점들은 실제로는 존재하지 않는 코드와 동작에 기반한 허위 정보로 밝혀졌습니다. 이는 대규모 언어모델(LLM)의 '환각(hallucination)' 현상으로 생성된 것으로 추정되며, 검증되지 않은 정보가 공신력 있는 보안 데이터베이스에까지 유통될 수 있음을 보여주는 충격적인 사례입니다.
조사 결과, 해당 GitHub 계정에서 발행된 총 55건의 권고문 중 54건이 완전히 조작되었고, 나머지 1건도 실제 버그에 검증되지 않은 CVE 메타데이터가 결합된 사례였습니다. 예를 들어, CVSS 9.8점의 Critical 등급을 받았던 CVE-2026-51302는 존재하지 않는 함수를 인용했으며, PoC(개념 증명) 쿼리도 충돌 없이 정상 실행되었습니다. 또한, CVE-2026-51297은 대상 버전에 없는 함수를 언급했고, CVE-2026-51296은 소스 코드의 총 행 번호를 넘어선 존재하지 않는 행 번호를 인용하는 등 기본적인 사실 관계조차 맞지 않았습니다. 이 권고문들을 GPTZero로 검사했을 때 AI 생성 콘텐츠 경고가 발생한 점도 LLM 생성 가능성을 뒷받침합니다.
이러한 허위 CVE가 유통되는 근본적인 원인은 MITRE의 공개 CVE 제출 양식에 실질적인 신원 확인이나 PoC, 버그 재현 요구 사항이 없기 때문입니다. 과거 NVD 전문가들이 수동으로 검증했지만, 취약점 보고 급증으로 2024년 2월 심층 분석이 중단되면서 대규모 적체가 발생했습니다. 이로 인해 그럴듯한 가짜 권고문이 GHSA(GitHub Security Advisory), 하위 데이터베이스, 그리고 기업의 보안 스캐너에까지 무분별하게 유입될 수 있는 구조가 되었습니다. 이는 존재하지 않는 취약점을 조사하고 패치하는 데 불필요한 자원 낭비를 초래하며, Critical 등급의 허위 CVE는 자동화된 보안 시스템에 실제 운영 부담으로 작용할 수 있습니다.
이번 사건은 보안 업계에 새로운 경종을 울리고 있습니다. 새로운 CVE나 출처가 불분명한 CVE는 맹목적으로 신뢰하지 말고, 공식 유지보수자의 보안 페이지 확인, 참조 필드의 커밋 해시나 Pull Request 유무 검토, 그리고 격리된 환경에서 PoC를 직접 재현하는 등 철저한 검증 절차가 필수적입니다. AI 기술이 발전하면서 LLM이 실제 취약점을 발견하는 긍정적인 측면도 있지만, 동시에 악의적인 목적으로 허위 정보를 생성하거나 시스템을 오염시키는 데 사용될 위험도 커지고 있습니다. 결국, 도메인 전문가의 검토와 검증이 수반되지 않는 AI 활용은 '신호 대 잡음비'를 떨어뜨려 실제 위협을 가려내기 더욱 어렵게 만들 것입니다.