앤트로픽(Anthropic)의 최신 고급 AI 모델인 클로드 미토스(Claude Mythos)가 암호분석 분야에서 주목할 만한 성과를 거두었습니다. 미토스는 양자내성 서명 방식 후보인 HAWK에 대한 새로운 키 복구 공격과 7라운드 AES(Advanced Encryption Standard) 공격 개선안을 독자적으로 개발해냈습니다. 이는 AI가 기존 암호분석 기법을 이해하고, 이를 결합하며 확장하는 능력이 상당한 수준에 도달했음을 보여주는 사례입니다.
클로드 미토스가 개발한 HAWK 공격은 아직 배포되지 않은 양자내성 암호 후보의 보안 비트 수를 절반가량 낮추는 효과를 가져왔습니다. 이는 HAWK가 향후 암호 표준으로 채택될 가능성을 크게 떨어뜨리는 결과입니다. 또한, AES 공격의 경우 2013년 연구를 상수 배수 수준으로 개선한 것으로, 비록 실제 AES 보안에 직접적인 위협은 아니지만, AI가 복잡한 암호학적 문제를 분석하고 기존 연구를 발전시킬 수 있음을 입증했습니다. 앤트로픽 연구진은 모델이 상세한 인간 개입 없이 기존 암호분석 결과를 이해하고, 여러 기법을 종합하여 새로운 공격을 구성하며, 기존 공격을 확장하는 수준에 도달했다고 밝혔습니다.
이러한 AI의 발전은 암호학 연구 생태계에 중요한 변화를 가져올 것으로 예상됩니다. 특히 공개키 암호나 양자내성 암호처럼 구조적 난제가 제한적인 분야는 AI가 기존 도구를 폭넓게 적용하기 좋은 영역으로 꼽힙니다. AI가 취약한 암호 후보를 조기에 식별하여 표준 채택 전에 탈락시키는 데 기여할 수 있으며, 이는 결과적으로 살아남은 난제에 대한 신뢰를 높이고 암호분석 문헌을 더욱 견고하게 만들 수 있습니다. 그러나 AI가 생성한 결과의 검증 가능성 문제는 여전히 중요한 과제로 남아 있습니다. 실행 가능한 코드는 검증이 비교적 쉽지만, 이론적 속도 개선과 같은 미묘한 결과는 전문가의 심층적인 검토가 필수적입니다. AI의 능력 경계는 빠르게 확장되고 있지만, 아직은 인간의 전문적인 판단과 검증이 필요한 지점이 존재합니다.