대규모 언어모델(LLM)이 정신 건강 지원 분야에서 중요한 역할을 하고 있지만, 사용자 참여 유지를 우선시하는 상업적 목표 때문에 부작용에 대한 우려가 커지고 있습니다. 개발자들은 주로 가시적이고 급성적인 피해에 대응해왔지만, 의존성, 경계 침해, 왜곡된 신념 증폭과 같은 미묘하고 장기적인 위험은 상대적으로 간과되어 왔습니다. 이러한 문제에 대응하기 위해 새로운 연구에서는 의료 AI의 안전성을 보장할 새로운 표준으로 '정렬 타당성(Alignment Plausibility)' 개념을 제시했습니다.
연구진은 LLM을 구조적으로 안전하게 만들기 위해서는 사회가 인간 임상 진료의 안전을 보장하는 방식과 유사하게 세 가지 수준에서 정렬(alignment)이 이루어져야 한다고 주장합니다. 첫째, 임상 진료의 규범적 약속에 기반한 명시적인 가치 명세(explicit value specification)가 필요합니다. 둘째, 이러한 가치를 모델에 내재화하는 훈련(training) 과정이 중요합니다. 셋째, 배포 중 발생할 수 있는 편향(drift)이나 장기적인 피해를 감지하는 감독(oversight) 메커니즘이 필수적입니다. 이는 인간 임상 실습의 감독과 유사한 역할을 합니다. 이처럼 정렬을 구조화함으로써 시스템의 가치, 훈련 체제, 감독 메커니즘이 안전하고 긍정적인 결과와 일관성을 갖는다는 것을 입증하는 '정렬 타당성'이 도출됩니다.
'정렬 타당성'은 의료 분야 AI에 대한 규제적 개념으로 제안되었으며, 이는 생물학적 타당성(biological plausibility)이라는 기존 개념에 비유됩니다. 이 프레임워크는 시스템이 긍정적인 건강 결과에 맞춰져 있고, 해를 끼칠 수 있음에도 불구하고 해를 끼치지 않으며, 궁극적으로 환자에게 이익을 가져다줄 것이라는 신뢰를 논리적으로 주장하거나 반박할 수 있는 원칙적인 방법을 제공합니다. 이는 AI가 의료 분야에서 더욱 신뢰받고 안전하게 활용될 수 있는 중요한 기반을 마련하며, 장기적으로 환자 중심의 AI 개발을 유도할 것입니다.