인공지능(AI) 기술이 빠르게 발전하면서, 특히 대규모 언어모델(LLM)과 같은 생성형 AI 시스템이 법적, 윤리적 기준에 맞춰 작동하도록 보장하는 것이 핵심 과제로 떠올랐습니다. 기존의 AI 정렬(alignment) 방식들은 인간의 감독에 의존하거나 너무 추상적이어서 실제 적용에 어려움이 있었는데, 프랑스 연구진이 이러한 한계를 극복하기 위한 새로운 접근법인 'Statutory AI'를 제안했습니다.
Statutory AI는 기존에 작성된 법률 텍스트를 AI의 '헌법적 프레임워크'로 활용합니다. 이 시스템은 두 단계의 연쇄적 사고(Chain-of-Thought) 프롬프팅을 사용합니다. 첫 번째 단계에서는 사용자 질의(프롬프트)를 특정 법률 테마(예: 차별, 기밀 정보 공개, 폭력, 사기, 취약 계층 학대)로 분류하고, 두 번째 단계에서는 해당 테마의 법률 조항들을 참조하여 AI 출력을 분석하고 수정합니다. 연구팀은 1,000개의 유해 질의(red-teaming prompts)와 5가지 형법 테마를 대상으로 실험한 결과, Statutory AI가 기존의 헌법적 AI(Constitutional AI)보다 유해 콘텐츠 생성을 약 10%포인트 더 줄여 52~59% 감소시켰으며, 연산 시간도 50% 이상 단축했다고 밝혔습니다.
이러한 접근 방식은 AI가 법적 규범을 내재화하여 스스로 유해하거나 불법적인 콘텐츠 생성을 억제할 수 있는 가능성을 보여줍니다. 이는 AI 규제 준수(compliance)를 강화하고, AI 시스템의 신뢰성을 높이는 데 기여할 수 있습니다. 또한, 인간의 지속적인 개입 없이 AI가 자율적으로 법적 기준을 따르도록 함으로써, AI 개발 및 운영의 효율성을 높이고 법적 리스크를 줄이는 데 중요한 역할을 할 것으로 기대됩니다. Statutory AI는 AI의 책임감 있는 개발과 배포를 위한 실질적인 해법이 될 수 있습니다.